Twitch AI Seinfeld запретил новости, принесшие много в социальных сетях после решения, принятого популярной вещательной платформой. Добро пожаловать в нашу статью о причинах блокировки Twitch AI Seinfeld и драме, стоящей за этим.
«Ничего, навсегда» — это бесконечное шоу, созданное искусственным интеллектом, которое транслируется на Twitch с середины декабря. В шоу участвуют четыре персонажа, Ларри, Фред, Ивонн и Каклер, которые напоминают персонажей популярного шоу «Сайнфелд» в компьютерной игре 1990-х годов. Диалог создается с помощью OpenAI GPT-3, а голосовая технология предоставляется другой компанией. Шоу проводится за счет комбинации GPT-3 от OpenAI и запатентованных генеративных алгоритмов Mismatch Media, называемых «режиссером».
Версия Сайнфельда с искусственным интеллектом под названием «Ничто навсегда» была заблокирована на Twitch на 14 дней после того, как версия Джерри Сайнфельда, известного как Ларри Файнберг, с искусственным интеллектом сделала трансфобные заявления во время стендапа. Шоу с искусственным интеллектом создано путем имитации традиционных эпизодов «Сайнфельда», и его посмотрели десятки тысяч человек. ИИ шоу обучен на классических эпизодах ситкома и различных инструментах ИИ и начинается со стендапа Ларри, а затем переезжает в его квартиру.
Почему забанили Twitch AI Seinfeld?
Запрет был введен после того, как ИИ сделал серию трансфобных и гомофобных замечаний во время стендапа в воскресенье вечером. Twitch не сразу ответил на просьбу прокомментировать, была ли шутка причиной бана, но это произошло незадолго до того, как канал был забанен, и пользователи в Discord проекта указали на эту шутку как на причину бана. На странице шоу Twitch теперь отображается сообщение о том, что оно временно недоступно из-за нарушения принципов сообщества или условий обслуживания Twitch.
В Discord проекта сотрудники шоу обвинили в этом событии необходимость переключения модели ИИ, что вызвало «ошибочное поведение». Сотрудник написал, что им пришлось переключиться с модели OpenAI GPT-3 Davinci на менее сложную модель Curie, когда Davinci начал давать сбой, что привело к созданию неподходящего текста. Сотрудник также заявил, что инструменты модерации контента OpenAI работали для модели Давинчи, но не сработали с Кюри. Основная причина проблемы с моделью Давинчи теперь установлена, и Кюри не будет использоваться в качестве запасного варианта в будущем.
Модели искусственного интеллекта изо всех сил пытаются понять человеческие ценности
Инцидент с запретом Twitch AI Seinfeld символизирует проблемы, с которыми сталкивается большинство ИИ. Когда ИИ обучается на ненавистных или предвзятых материалах, результаты часто могут быть ненавистными или предвзятыми. Вот почему безопасность ИИ является важной областью, в которой разрабатываются инструменты для смягчения таких предубеждений. Многие инструменты ИИ модерируются низкооплачиваемыми работниками из развивающихся стран. Сотрудники Nothing Forever сделали большую часть Discord доступной только для чтения, и в треде, где пользователям по-прежнему разрешено публиковать сообщения, многие пользователи используют Midjourney AI для создания изображений Джерри Сайнфелда, держащего транс-флаг гордости.
Не знаете, что такое Midjourney AI? Узнайте, как создавать художественные иллюстрации в Midjourney AI.
Инцидент с запретом Twitch AI Seinfeld подчеркивает важность ответственной разработки ИИ и необходимость устранения предубеждений в моделях ИИ. Крайне важно отслеживать и контролировать результаты работы ИИ, чтобы предотвратить распространение ненависти и дискриминации. Сотрудники Nothing Forever сделали правильный шаг, обжаловав запрет и работая над тем, чтобы ничего подобного не повторилось в будущем. Вы можете посмотреть Seinfield AI, как только он будет снят с платформы по этой ссылке..
Точность технологий искусственного интеллекта до сих пор вызывает споры, например, тот факт, что Lensa AI также много раз крала работы художников и создавала обнаженные фотографии без согласия пользователей. Мы надеемся, что в 2023 году технологии ИИ смогут встретить нас более гуманно.
Source: Twitch AI Seinfeld забанен за трансфобные высказывания
