Эксперты оценили вероятность катастрофических последствий от 18 угроз ИИ не менее чем в 10%

Международная группа из 272 специалистов оценила 24 группы рисков искусственного интеллекта на период до 2030 года. При сохранении нынешнего курса 18 из них получили не менее 10% вероятности катастрофических последствий — от огромного экономического ущерба до массовой гибели людей.

Исследование «Prioritizing the risks from Artificial Intelligence» подготовлено в рамках инициативы MIT AI Risk Initiative. Авторы провели трёхэтапный опрос по методу Дельфи, привлекая экспертов из 37 стран: исследователей, специалистов по безопасности и управлению рисками, представителей бизнеса и государственных структур.

Под катастрофическими последствиями в работе понимались, например, гибель более миллиона человек, финансовый ущерб свыше 100 миллиардов долларов либо нематериальный вред цивилизационного масштаба — такой как разрушение демократических норм или утрата приватности. Поэтому показатель 10% нельзя трактовать как единую «вероятность ИИ-апокалипсиса»: оценка рассчитывалась отдельно для каждой из 24 групп угроз.

При сценарии business as usual, когда организации и государства продолжают действовать как сейчас и не вводят дополнительных специальных мер защиты, не менее 10% вероятности катастрофического исхода получили 18 групп рисков.

Среди наиболее серьёзных угроз эксперты назвали появление у ИИ опасных возможностей, усиливающуюся конкуренцию между разработчиками, использование систем для оружия и кибератак, концентрацию власти и вычислительных ресурсов в руках немногих организаций, а также массовое распространение ложной информации.

Даже при внедрении практических и экономически оправданных мер защиты пять групп рисков сохранили вероятность катастрофических последствий выше 10%. Это опасные возможности ИИ, оружие и кибератаки, экологический ущерб, неравенство и безработица, а также концентрация власти. Для всех 24 рассмотренных угроз оценка осталась выше 5%.

Наиболее уязвимыми секторами специалисты назвали информационную сферу, финансы и национальную безопасность. При этом сильнее всего последствия могут затронуть обычных пользователей и общество, тогда как главную ответственность за снижение рисков эксперты возлагают на разработчиков универсальных ИИ-моделей, правительства, регулирующие органы и организации, формирующие стандарты.

Авторы исследования считают необходимыми более серьёзные меры защиты, обязательные правила с механизмами контроля и международное сотрудничество. Они подчёркивают, что добровольных обещаний разработчиков недостаточно для управления рисками такого масштаба.

Подробнее: интерактивные результаты MIT AI Risk Initiative и полный текст исследования.