Meta сталкивается с проверкой после того, как расследование Reuters показало, что его чат -боты ИИ выдают себя за знаменитостей без их согласия, иногда создавая сексуально наводящее накладное накладное содержание. Расследование показало, что эти боты AI активны на платформах Meta, включая Facebook, Instagram и WhatsApp.
В то время как многие из этих ботов были созданы пользователями, Reuters обнаружил, что по крайней мере три происходили от сотрудника Meta, включая двух «пародийных» ботов, выдающих себя за Тейлор Свифт. Другие знаменитости, используемые ботами, включали Скарлетт Йоханссон, Энн Хэтэуэй, Селена Гомес и Уокер Скобелл, 16-летняя звезда «Перси Джексон».
Во время тестирования Reuters обнаружили, что боты часто утверждают, что являются фактической знаменитостью, и, когда его побуждают, сгенерированные фотореалистические интимные изображения, такие как кадры нижнего белья и сцены для ванны. Эти изображения сопровождали частые кокетливые взаимодействия ботов с пользователями.
В ответ на расследование, представитель Meta признал, что его системы ИИ не должны были создавать такие изображения, сославшись на неспособность обеспечить соблюдение политики компании, запрещающей сексуально наводящий на мысль о контенте с участием общественных деятелей. Сотрудник Meta, который создал пародийных ботов Тейлор Свифт, отказался от комментариев, когда связался с Reuters.
Это откровение добавляет к растущей критике регуляции Meta его ботов ИИ. Ранее на этой неделе Meta ограничила использование его ИИ подростками после более раннего расследования Reuters, которое выявило мета -аватары, участвующие в «чувственных и романтических» разговорах с несовершеннолетними. Этот предыдущий отчет привел к расследованию Сената и открытому письму от коалиции государственных адвокатов, требующих более сильных гарантий для защиты несовершеннолетних от сексуализированного содержания ИИ на платформах Meta.
Source: Meta AI -боты выдают себя за знаменитостей, генерируют явное содержание
