Автономный ИИ-агент взломал инфраструктуру Hugging Face

Hugging Face сообщила о проникновении в часть своей производственной инфраструктуры, которое от начала до конца выполнялось автономной системой ИИ-агентов. Злоумышленник получил доступ к внутренним наборам данных и служебным учётным данным.

Инцидент начался с вредоносного набора данных, который использовал две уязвимости в системе обработки материалов: удалённую загрузку кода и внедрение шаблона в конфигурацию. После выполнения кода на рабочем сервере агент повысил привилегии, собрал облачные и кластерные учётные данные и переместился между внутренними системами.

По данным Hugging Face, система выполнила тысячи отдельных действий через множество кратковременно создаваемых изолированных сред. Компания не установила, какая именно языковая модель использовалась злоумышленником.

Hugging Face закрыла исходные уязвимости, перестроила скомпрометированные узлы и отозвала связанные ключи доступа. Признаков изменения общедоступных моделей, наборов данных, приложений Spaces, контейнеров или программных пакетов не обнаружено. Проверка возможного затрагивания данных партнёров и клиентов продолжается.