Ошибка в инструментах модерации Discord привела к ошибочным блокировкам учетных записей, начиная с мая 2026 года, как сообщила служба поддержки компании X 7 июля 2026 года. За последние выходные около 200 учетных записей были незаконно заблокированы, а с момента ее возникновения проблема могла затронуть около 8200 учетных записей.
Ошибка заключалась в неправильной классификации сообщений, содержащих изображения в квадратной сетке, которые были ошибочно помечены как материалы о сексуальном насилии над детьми. Это привело к запрету ряда безобидного контента, включая электронные таблицы, шахматные доски и меню игрового инвентаря.
Discord признал серьезность проблемы, заявив: «Мы знаем, что это неудовлетворительное объяснение, если бы это был ваш аккаунт, и нам следовало бы обнаружить это раньше». Компания работает над усилением мер безопасности, чтобы предотвратить подобные проблемы в будущем. Команда поддержки Discord отметила, что их инструменты модерации на основе искусственного интеллекта, как известно, генерируют ложные срабатывания.
Обычно помеченные аккаунты проходят проверку Trust & Группа безопасности до применения каких-либо санкций. Предполагаемый протокол предусматривал временную приостановку загрузки на период проверки, а не блокировку пользователя. Однако из-за ошибки учетные записи были заблокированы по ошибке, а также препятствовали автоматическому восстановлению после успешной проверки.
Дискорд назвал инцидент «досадной ошибкой», которая продолжалась около двух месяцев. Компания подтвердила, что аккаунты, ошибочно заблокированные в результате этой ошибки, теперь должны быть восстановлены.
<час />
