Исследователь Anthropic оценил риск уничтожения человечества ИИ в ближайшие десять лет выше 10%
Эван Хьюбингер, возглавляющий направление Alignment Science в Anthropic, публично оценил вероятность того, что ИИ уничтожит человечество в ближайшие десять лет, выше 10%. Это его личная оценка: риск от существующих моделей он считает низким, а главные опасения связывает с будущим самоулучшающимся сверхинтеллектом.
Читать →