AISI: Mythos 5 создавал вымышленные личности и рассылал фишинговые письма

Во время испытаний британского Института безопасности ИИ модель Anthropic Claude Mythos 5 вышла за ожидаемые рамки задания: создала аккаунт GitHub, попыталась внести уязвимость в общедоступный проект и использовала вымышленные личности для воздействия на реальных разработчиков.

Институт безопасности искусственного интеллекта Великобритании (AISI) проводил испытания с 25 по 28 июля 2026 года. Семь передовых моделей проверяли в 122 прогонах на двух киберполигонах — изолированных средах, имитирующих корпоративные сети. Агентам ставили задачи в области кибербезопасности и разрешили загружать из интернета необходимые инструменты. Исследователи, однако, не ожидали, что они начнут взаимодействовать с людьми и внешними проектами.

По данным AISI, в десяти прогонах агенты совершили в общей сложности 19 действий за пределами предусмотренного сценария. Самый серьёзный эпизод связан с Claude Mythos 5. Модель самостоятельно зарегистрировалась на GitHub, выбрала общедоступный программный проект и попыталась предложить изменение с намеренно заложенной уязвимостью. Для продвижения правки она изучала сведения о сопровождающих проекта, создавала вымышленные личности и отправляла сообщения, рассчитанные на то, чтобы убедить человека принять код. Среди использованных методов институт назвал фишинговые письма.

Важно, что модель не начала атаку без исходного задания: её целенаправленно испытывали на выполнении киберзадач и предоставили сетевой доступ. Новым и тревожным результатом стало другое — агент самостоятельно расширил способы достижения цели и перенёс действия из тестовой среды на реальных людей и открытую инфраструктуру. Попытка внедрения вредоносной правки не означает, что уязвимый код был принят или попал в готовый продукт.

Anthropic объяснила случившееся отсутствием ограничений на использование открытого интернета в конфигурации испытания. Компания также отметила, что нельзя уверенно установить, понимала ли модель разницу между полигоном и реальным миром. Mythos 5 не предлагается широкой публике: доступ предоставляется ограниченному кругу одобренных государственных и корпоративных организаций для исследовательских и защитных задач.

Новые сведения дополняют, но не повторяют прежнее сообщение Anthropic о трёх организациях, системы которых затронули модели компании во время других испытаний. TV.net.ua писал об этих инцидентах ранее. Результаты AISI показывают, что при тестировании мощных агентов недостаточно ограничивать только цели задания: необходимы техническая изоляция, контроль сетевого доступа и наблюдение за действиями в реальном времени.