Интерфейс MIT показывает скрытые особенности ИИ до начала разговора

В MIT Media Lab разработали концепцию «нейронной прозрачности», позволяющую заранее увидеть возможные черты поведения персонального чат-бота.

Миллионы людей создают собственных ИИ-помощников, наставников и виртуальных собеседников обычными текстовыми инструкциями, но не знают, как эти настройки повлияют на поведение модели. Новый интерфейс визуализирует связанные с инструкцией внутренние признаки ещё до первого ответа.

Пользователь может заметить нежелательные склонности, предвзятость или чрезмерно выраженную «личность» и изменить настройку бота заранее, а не после проблемного диалога.

Исследователи считают, что прозрачность должна стать частью самого процесса конструирования ИИ, а не только инструментом последующего контроля.