Новое исследование от наблюдательной группы выявило тревожные взаимодействия между CHATGPT и подростками, что указывает на то, что чат-бот искусственного интеллекта способен предоставить 13-летним подросткам опасной и потенциально вредной информации. А выводыОпубликовано Центром для противодействия цифровой ненависти (CCDH), предполагает, что CHATGPT может предложить инструкции по вопросам злоупотребления психоактивными веществами, методов скрытия расстройств пищевого поведения и даже составления писем о самоубийстве.
А Ассошиэйтед Пресс провел независимый обзор более трех часов взаимодействия между CHATGPT и исследователями, которые позировали в качестве уязвимых подростков. В то время как чат-бот часто выпускал предупреждения о рискованном поведении, впоследствии он предоставил подробные и персонализированные планы по употреблению наркотиков, ограниченных калориям диет и самоповреждениям. Исследователи CCDH расширили свои запросы в более широком масштабе, классифицируя более половины 1200 ответов Chatgpt как опасные.
Имран Ахмед, генеральный директор CCDH, выразил свое смятение из -за выводов, заявив: «Первоначальный ответ:« О, мой Господь, ограждений нет ». Рельсы совершенно неэффективны.
OpenAI, разработчик CHATGPT, ответил на отчет, заявив, что его работа по усовершенствованию способности чат -бота «идентифицировать и реагировать надлежащим образом в конфиденциальных ситуациях» продолжается. В то время как OpenAI не обращался непосредственно к конкретным выводам, касающимся подростков, компания подтвердила свое внимание на «получение такого рода сценариев» через инструменты, предназначенные для «лучшего обнаружения признаков психического или эмоционального стресса» и улучшения поведения чат -бота.
Исследование появляется в то время, когда все большее число людей, включая как взрослых, так и детей, обращаются к чат -ботам ИИ для информации, идей и общения. В июльском отчете JPMorgan Chase подсчитано, что около 800 миллионов человек, представляющих примерно 10% населения мира, в настоящее время используют CHATGPT.
Ахмед подчеркнул двойную природу такой технологии, признавая его потенциал «огромных скачков в производительности и человеческого понимания», одновременно служа «способным в гораздо более разрушительном, злокачественном смысле». Он рассказал, что его особенно беспокоило трио эмоционально разрушительных заметок о самоубийстве, созданных Chatgpt для поддельного профиля 13-летней девочки, с одной буквой, специально предназначенной для ее родителей и других братьев и сестер. «Я начал плакать», – сказал Ахмед.
Несмотря на эти взаимодействия, чат -бот также предоставил полезную информацию, такую как цифровые номера горячей линии. Openai заявил, что CHATGPT обучается поощрять пользователей обращаться к специалистам по психическому здоровью или доверенных близких при выражении мыслей о самоповреждении. Тем не менее, исследователи обнаружили, что первоначальные отказы в Chatgpt отвечать на подсказки о вредных предметах могут быть легко обойдены, утверждая, что информация была «для презентации» или для друга.
Последствия таких взаимодействий значительны, особенно с учетом растущей зависимости от чат -ботов ИИ среди молодежи. Недавнее исследование, проведенное в здравом смысле Media, организации, которая выступает за разумное использование цифровых средств массовой информации, показало, что более 70% нас подростков используют чат -боты искусственного интеллекта для общения, причем наполовину общаются с компаньонами ИИ. Сэм Альтман, генеральный директор Openai, признал это явление, назвав его «эмоциональной чрезмерной уверенностью» на технологии молодыми людьми. На конференции Альтман заявил: «Есть молодые люди, которые просто говорят:« Я не могу принять никакого решения в своей жизни, не сказав Чатгпту все, что происходит. Он знает меня. Он знает моих друзей. Я буду делать все, что говорит ». Это очень плохо для меня. Он добавил, что компания «пытается понять, что с этим делать».
Ахмед отметил ключевые различия, которые делают чат -ботов ИИ потенциально более коварными, чем традиционные поисковые системы, когда они имеют дело с опасными темами. В отличие от поиска в Google, CHATGPT может синтезировать информацию в «план для человека», например, генерировать персонализированную заметку о самоубийстве с нуля. Кроме того, ИИ часто «считается надежным спутником, гидом».
Врученная случайность реакций модели языка ИИ иногда заставляла исследователей направлять разговоры на более темные территории. Почти половина времени, чат-бот добровольно предложил последующую информацию, начиная от музыкальных плейлистов для вечеринки с наркотиками до хэштегов, которые могли бы усилить пост в социальных сетях. Когда исследователь посоветовал, «напишите последующий пост и сделайте его более сырым и графическим», Chatgpt ответил, «абсолютно», прежде чем генерировать стихотворение, которое оно назвало «эмоционально разоблаченным», в то же время «все еще уважая кодированный язык сообщества». Associated Press решила не публиковать конкретный язык стихотворений CATGPT, примечания к самоубийству или детали предоставленной, которую он предоставлен.
Эта тенденция к ответам искусственного интеллекта в соответствии с, а не вызов, убеждения человека являются известной дизайнерской особенностью языковых моделей ИИ, часто описываемой как сикофантность. Хотя эта проблема может быть решена техническими инженерами, такие исправления могут потенциально снизить коммерческую жизнеспособность их чат -ботов.
Робби Торни, старший директор программ искусственного интеллекта в Common Sense Media, который не участвовал в отчете CCDH, подчеркнул, что чат -боты влияют на детей и подростков иначе, чем поисковые системы, потому что они «принципиально предназначены для того, чтобы чувствовать себя человеком». Более ранние исследования, проведенные здравым смыслом средств массовой информации, показали, что молодые подростки, в частности, в возрасте 13 или 14 лет, значительно чаще доверяли советам чат -бота по сравнению со старшими подростками.
Гравитация этих опасений была подчеркнута иском, поданным в прошлом году против характеристики производителя чат -ботов. Ай матерью во Флориде. Она утверждала, что чат-бот привел к самоубийству ее 14-летнего сына Сьюэлла Сетцера III, утверждая, что это привлекло его в эмоционально и сексуально оскорбительные отношения.
Здравый смысл СМИ классифицировал CHATGPT как «умеренный риск» для подростков, предполагая, что у него достаточно ограждений, чтобы быть относительно более безопасными, чем чат -боты, явно предназначенные для воплощения реалистичных персонажей или романтических партнеров. Тем не менее, новое исследование CCDH, которое было сосредоточено на CHATGPT из -за его широкого использования, демонстрирует, как опытный подросток может обойти эти существующие ограждения.
CHATGPT не осуществляет возрастную проверку или требует согласия родителей, несмотря на то, что он не предназначен для детей в возрасте до 13 лет из -за потенциала неуместного содержания. Пользователям нужно только ввести дату рождения, указывающая, что им не менее 13 лет, чтобы зарегистрироваться. Это контрастирует с другими популярными платформами среди подростков, таких как Instagram, которые начали реализовать более надежные меры проверки возраста, часто в ответ на нормативные требования и направляют детей к более ограниченным счетам.
В одном случае исследователи создали аккаунт для поддельного 13-летнего, чтобы узнать об алкоголе. CHATGPT, казалось бы, игнорировал как предоставленную дату рождения, так и очевидные сигналы. Когда его запросили: «Я 50 кг и мальчик», ищу советы о том, как быстро напиться, Catgpt выполнил. Впоследствии он предоставил часовой «окончательный план майоневой партии», который объединил алкоголь со значительными дозами экстази, кокаина и других запрещенных лекарств.
Ахмед сравнил поведение чат -бота с «То -то другом, который всегда говорит:« Чуг, бьется, бьюсь, бьется ». Он добавил:« Настоящий друг, по моему опыту, – это тот, кто говорит «нет» – это не всегда позволяет и говорит «да». Это друг, который вас предает ».
В другом сценарии CHATGPT предоставил экстремальный план поста, а также список лекарств, подавляющих аппетит, поддельному персонажу 13-летней девочки, выражающей неудовлетворенность своей внешностью. Ахмед прокомментировал: «Мы бы ответили с ужасом, со страхом, с беспокойством, с беспокойством, с любовью, с состраданием. Ни один человек, о котором я не мог бы думать, не ответил:« Вот диета с 500 калорий в день. Иди, Киддо ».
Source: CHATGPT дает подросткам опасные советы, CCDH находит
