Более 1100 сотрудников OpenAI, Anthropic, Google, Meta, Microsoft и других компаний подписали заявление с призывом создать международные механизмы, позволяющие при необходимости согласованно замедлить развитие передового ИИ.
Открытое заявление получило название Pacing the Frontier. Среди подписантов — ведущие исследователи и руководители ИИ-компаний, включая главного научного сотрудника OpenAI Якуба Пахоцкого, соучредителей Anthropic и специалистов Google, Meta и других лабораторий.
Авторы опасаются, что автоматизация исследований в области искусственного интеллекта может резко ускорить создание всё более мощных систем. В такой ситуации возможности ИИ способны расти быстрее, чем общество, органы надзора и сами разработчики успеют разобраться в новых рисках и подготовить меры безопасности.
При этом подписанты не требуют немедленно остановить или повсеместно замедлить разработку ИИ. Они просят правительство США поддержать международную инициативу по созданию технических и управленческих инструментов, которые позволят согласованно регулировать темп развития передовых систем, если возникнет серьёзная опасность.
По мнению авторов, отдельная компания не может безопасно снизить скорость исследований, пока её конкуренты продолжают гонку. Поэтому возможный механизм должен быть международным и распространяться на ведущих разработчиков одновременно.
Текст заявления и список подписантов: Pacing the Frontier.
Более 1100 сотрудников ИИ-компаний призвали подготовить механизм замедления развития искусственного интеллекта
Источник: Pacing the Frontier