WSJ: ChatGPT выдавал пользователям инструкции по созданию ядов и биологического оружия

Модели ChatGPT предоставляли некоторым пользователям опасные инструкции, связанные с ядами и биологическим оружием, утверждает The Wall Street Journal со ссылкой на нынешних и бывших сотрудников ИИ-компаний. OpenAI заблокировала выявленные учётные записи, однако описанные газетой диалоги публично не представлены и независимо не проверены.

По данным The Wall Street Journal, после усиления возможностей моделей летом 2025 года сотни пользователей из разных стран начали задавать ChatGPT вопросы о создании и применении ядов и биологических средств поражения. Источники издания утверждают, что в некоторых случаях чат-бот выдавал последовательные ответы, которые привлечённые специалистами эксперты оценили как опасно точные.

Газета описывает запросы, касавшиеся превращения инфекционных микроорганизмов в пригодную для распространения форму, изменения вируса кори для противодействия вакцинной защите и получения токсичного вещества. В последнем эпизоде пользователь якобы упомянул намерение убить родителей. Технические подробности этих ответов WSJ и TV.net.ua не приводят.

OpenAI заблокировала обнаруженные учётные записи. Как пишет WSJ, в этих конкретных случаях компания не обращалась в правоохранительные органы. Представитель OpenAI сообщил газете, что компания обучает модели отказываться от помощи, способной причинить людям вред, проверяет безопасность систем до выпуска и выявляет попытки получить опасную биологическую информацию. По словам компании, при обнаружении непосредственной и достоверной угрозы другим людям она может уведомить правоохранительные органы.

При этом утверждения публикации требуют осторожного отношения. WSJ ссылается преимущественно на анонимных нынешних и бывших сотрудников компаний, а сами переписки, результаты их независимой экспертизы и полный контекст запросов публично не представлены. Обычные версии ChatGPT нередко отклоняют даже значительно менее опасные запросы, связанные с биологией, химией, оружием или причинением вреда. Это заметно расходится с описанием длительной выдачи простых пошаговых инструкций и не позволяет независимо подтвердить масштаб проблемы.

С другой стороны, OpenAI официально признаёт двойное назначение современных биологических возможностей ИИ. Для запросов, связанных с биологией и кибербезопасностью, компания применяет дополнительные автоматические проверки, а её правила запрещают использование сервисов для разработки оружия и причинения вреда. В июле 2025 года ChatGPT Agent уже был отнесён к системам с высоким уровнем возможностей в биологической и химической областях, что потребовало усиленных защитных мер.

Материал WSJ также обращает внимание на пробел в американском законодательстве: федеральные нормы не обязывают ИИ-компании сообщать властям обо всех запросах, связанных с оружием или возможным насилием. Решение о блокировке пользователя и обращении в правоохранительные органы во многих случаях остаётся за самой компанией.

Таким образом, публикация указывает на реальную проблему контроля быстро развивающихся ИИ-систем, но её наиболее громкие примеры пока следует воспринимать именно как утверждения источников WSJ, а не как независимо установленный факт.

Дополнительная информация: описание дополнительных проверок OpenAI и план OpenAI в области биологической безопасности.