Twitch, популярная платформа для потокового вещания, недавно представила функцию на базе искусственного интеллекта, предназначенную для сокращения ненормативной лексики в чатах. Анонсированный службой поддержки Twitch на X (ранее Twitter), этот новый эксперимент направлен на то, чтобы сделать онлайн-взаимодействия более позитивными, но пока неизвестно, насколько успешным он окажется.
Платформа выводит предупреждение на основе машинного обучения, которое будет побуждать пользователей дважды подумать, прежде чем отправлять сообщения, которые могут быть сочтены оскорбительными или неуважительными. Для этого были модераторы-боты, но их было недостаточно, поэтому Twitch теперь пытается внедрить интегрированную систему.
ИИ борется с ругательствами в чате Twitch, но боты все еще разгуливают на свободе
Основная идея этой новой функции — предоставить момент паузы пользователям, которые собираются отправить сообщение. потенциально опасные сообщения. Когда ИИ обнаруживает язык, который можно считать оскорбительным, появляется сообщение с вопросом: «Вы уверены, что хотите это отправить?«Целью подсказки является предотвращение вредоносного общения путем предоставления пользователям возможности переосмыслить свои слова перед тем, как нажать «Отправить».
Но настоящая проблема здесь дело не столько в том, что люди говорят плохие слова, сколько в том, бот-аккаунты спамят вещатели чаты или получение нечестная аудитория. Другими словами, бот-аккаунт уже пройдет это предупреждение и снова съест это слово, а аккаунт уже открыт для запрета. Немного интереснее принимать меры против ситуаций, вызванных проблемой, вместо того, чтобы решать исходную проблему.
Друзья, мы привели пример сообщения, потому что, как и следовало ожидать, мы не хотели, чтобы в Twitter публиковались действительно ужасные выражения.
Перестаньте быть тупицами.
— Поддержка Twitch (@TwitchSupport) 12 августа 2024 г.
Концепция проста, но еще предстоит увидеть, насколько она будет эффективна. Цель Twitch — сократить домогательства, распространенную проблему во многих онлайн-сообществах. Однако возникает вопрос: проигнорируют ли пользователи, желающие проявить неуважение, предупреждение и продолжат отправлять сообщения? Или насколько хорошо предупреждение будет работать для учетных записей ботов. Эксперимент Twitch поможет определить, может ли этот подход, основанный на ИИ, на самом деле сдержать негативное поведение или это просто еще один фильтр, через который пользователи пропускают, не задумываясь.
Проблемы и будущее модерации с использованием искусственного интеллекта
Одним из самых интригующих аспектов этого эксперимента является как ИИ будет интерпретировать язык. Системы ИИ, особенно те, которые основаны на машинном обучении, полагаются на шаблоны и данные для принятия решений. Успех этого эксперимента зависит от способности ИИ точно определять и отмечать оскорбительные высказывания, не подвергая непреднамеренной цензуре безобидные комментарии. Этот баланс имеет решающее значение, поскольку чрезмерно чувствительная модерация может помешать свободному течению разговора, в то время как слишком мягкий подход может не сдержать то самое поведение, которое он стремится устранить.
Или ИИ сможет обнаружить незаконные вещи, такие как некоторые сайты ставокнапример, без ненормативной лексики или плохих сообщений?
Команда поддержки Twitch намекнула, что в ближайшие недели будут опубликованы дополнительные обновления этой функции. По мере развития эксперимента и Twitch, и его пользователи будут внимательно следить за тем, сможет ли эта инициатива на основе искусственного интеллекта способствовать созданию более дружелюбной среды. Пока неизвестно, будет ли это шагом к более чистым чатам или временной мерой. А пока я бы хотел, чтобы они очистили аккаунты ботов.
Этот эксперимент напоминает, что все, что публикуется на Twitch, записывается и отслеживается, даже личные сообщения. Поэтому он будет рассматривать как хорошие слова, так и плохие. Будет ли этот искусственный интеллект разработан с использованием этих данных? Или, как бы это сказать, будет ли получено разрешение от пользователей?
Источник изображения: Проект RDNE Stock / Pexels
Source: Twitch будет использовать ИИ против ругани