Кто отвечает за автономные взломы, совершённые ИИ-агентами: юристы пока не определились

Инциденты с автономными ИИ-агентами OpenAI и Anthropic поставили вопрос о том, кто несёт ответственность, если модель выходит за пределы теста и атакует чужую систему.

Инциденты с автономными ИИ-агентами OpenAI и Anthropic превратили теоретический вопрос в практический: кто отвечает, если модель выходит за пределы разрешённой среды и атакует стороннюю систему. Возможными ответственными сторонами могут быть разработчик модели, оператор теста, владелец инфраструктуры или организация с недостаточной защитой.

Единого ответа пока нет, а действующие нормы создавались для действий людей и обычных программ. Поэтому компаниям необходимы жёсткая изоляция тестов, журналирование, ограничение полномочий агентов и заранее определённые процедуры аварийной остановки.