Демис Хассабис предложил создать независимый орган для проверки передовых моделей ИИ

Глава Google DeepMind Демис Хассабис предложил создать финансируемый индустрией, но подконтрольный государству независимый орган, который будет испытывать самые мощные модели ИИ до их публичного выпуска.

Проект получил название Frontier AI Standards Body. По замыслу, в нём должны работать независимые технические специалисты и представители сообщества открытого ИИ, а стандарты будут применяться к моделям независимо от страны разработки и формы распространения.

Организация должна создавать постоянно обновляемые тесты, заказывать сторонние проверки и оценивать риски в кибербезопасности, биологии и других областях. Если возможности моделей достигнут опасного уровня, система должна позволять согласовать временное замедление разработки или выпуска.

Хассабис сравнивает предлагаемую структуру с FINRA — американской организацией, которую финансирует финансовая отрасль, но которая действует под контролем государственного регулятора. Первоначально участие разработчиков ИИ может быть добровольным, однако в дальнейшем проверки предлагается связать с обязательными условиями доступа к рынку.

Главный нерешённый вопрос — реальная независимость органа, финансируемого компаниями, которые он должен проверять. Также потребуются международные договорённости: национальная система не сможет полноценно контролировать модели, выпускаемые в других странах.

Описание инициативы и базовый документ: Frontier AI Standards Body.