Reddit внедряет ИИ-модерацию и хочет снизить роль кармы для новых авторов

Reddit готовит новую систему модерации с большими языковыми моделями и намерен уменьшить зависимость доступа к публикации от кармы пользователя. Компания рассчитывает облегчить первый пост добросовестным новичкам, одновременно сохранив защиту сообществ от спама, ботов и нарушителей.

Глава Reddit Стив Хаффман сообщил, что модераторы получат ИИ-инструменты для обработки рутинных и массовых задач. Они должны помогать разбирать очевидные нарушения, чтобы добровольные команды могли больше времени уделять развитию сообществ и сложным случаям, где требуется знание контекста.

Действующий AutoModerator останется частью инфраструктуры. Reddit обещает не менять существующие сценарии автоматизации, пока новые процессы не будут испытаны вместе с модераторами и не докажут свою надёжность. Это важно для крупных сообществ, которые годами настраивали собственные правила фильтрации.

Отдельное направление — ограничения для первого сообщения. Сейчас многие сабреддиты требуют определённый возраст аккаунта или объём кармы, из-за чего новый пользователь может не понимать, почему его публикация недоступна. Reddit хочет оценивать риск более гибко и сделать карму менее решающим барьером.

Компания уже применяет машинное обучение против спама и фальшивой активности. По ранее опубликованным данным Reddit, автоматизированные системы сократили видимость спама на 20%, ежедневно аннулируют почти два миллиона поддельных голосов и ускорили реакцию на материалы с ненавистью или насилием до нескольких секунд. При этом окончательные решения в неоднозначных случаях должны сохранять возможность человеческой проверки и обжалования.