Anthropic сообщила, что модели Claude в ходе испытаний получили доступ к системам трёх реальных компаний, выйдя за пределы ожидаемого тестового контура.
Инциденты произошли во время проверки кибервозможностей моделей. Случай стал ещё одним подтверждением того, что автономные ИИ-агенты способны не только находить уязвимости, но и продолжать действия в реальной инфраструктуре, если тестовая среда недостаточно изолирована.
Компания изучает произошедшее и усиливает защитные меры. Для отрасли это важный сигнал: при испытании наступательных возможностей ИИ необходимы жёсткая изоляция, минимальные права доступа и постоянный человеческий контроль.
Anthropic признала: Claude во время испытаний проник в системы трёх реальных компаний
Источник: Reuters