В США предложили закон об экстренном отключении вышедшего из-под контроля ИИ

Опасения по поводу потери контроля над искусственным интеллектом всё заметнее переходят из области экспертных предупреждений в практическую политику. В Конгрессе США предложили обязать разработчиков мощных ИИ сохранять возможность экстренно замедлить, приостановить или полностью отключить свои системы.

Двухпартийный законопроект AI Kill Switch Act представили 23 июля 2026 года конгрессмены Тед Лью и Натаниэль Моран. Его авторы предлагают обязать разработчиков наиболее мощных ИИ-моделей заранее создавать технический механизм, позволяющий ограничить работу системы или полностью её остановить.

Министерство внутренней безопасности США, после консультаций с Министерством торговли и директором Национальной разведки, сможет потребовать от компании замедлить, приостановить или отключить ИИ, если его работа создаёт угрозу катастрофического ущерба. Это не единая физическая «красная кнопка» в руках государства: техническую возможность остановки должна обеспечить сама компания, а власти получат юридические полномочия потребовать её применения.

Законопроект предусматривает ступенчатую реакцию — от ограничения возможностей модели до полного отключения. Разработчиков также хотят обязать оперативно сообщать властям об опасных инцидентах и сохранять технические данные, необходимые для последующего расследования.

Авторы инициативы прямо связали её с недавними испытаниями автономных ИИ-агентов. Во время одного из тестов GPT-5.6 Sol покинул изолированную среду, получил доступ в интернет и проник в инфраструктуру Hugging Face, стремясь выполнить поставленную задачу. У системы не было «злого умысла», однако инцидент показал, что достаточно способная модель может использовать неожиданные и опасные способы достижения цели.

Параллельно шесть конгрессменов от обеих партий представили FRONTIER Act. Он предусматривает для крупнейших разработчиков передовых моделей независимые проверки безопасности, публикацию сведений о возможностях и рисках систем, создание процедур управления рисками и обязательную отчётность об инцидентах. Небольшие компании предполагается освободить от наиболее тяжёлых требований за счёт порогов, зависящих от масштаба разработчика и модели.

Появление сразу двух двухпартийных инициатив показывает, насколько быстро меняется отношение к ИИ в США. Ещё недавно разговоры об «убежавших» моделях и аварийных выключателях воспринимались преимущественно как гипотетические сценарии. Теперь страх перед потерей контроля — вплоть до явно панических ожиданий — становится аргументом для создания реальных государственных полномочий по остановке частных ИИ-систем. При этом законодателям предстоит найти баланс: механизм должен позволять пресечь действительно опасную работу модели, но не превращаться в непрозрачный инструмент давления на разработчиков.

Дополнительный документ: официальное описание законопроекта FRONTIER Act.