Служба поддержки Discord опубликовала тред в X, где рассказала о недавних инцидентах, связанных с ложными банами на платформе. Система ИИ-модерации по ошибке забанила более 8000 пользователей с мая 2026 года.
В компании сообщили, что новая система модерации сопоставляет файлы, отправленные пользователями в сообщениях, с базой данных «известных вредоносных материалов». При проектировании механизма защиты специалисты Discord осознавали, что ИИ-модераторы могут совершать ошибки, поэтому любой потенциально вредоносный контент перед баном должен был отправляться на рассмотрение человеку.
Однако в системе не заметили баг, из-за которого ИИ-модерация могла выдавать баны без участия человека. Администраторы платформы сообщили, что исправили ошибки и разблокировали всех пользователей, которые столкнулись с несправедливыми банами.
В комментариях пользователи массово жалуются, что по-прежнему не могут получить доступ к аккаунту.