Meta обучает своих чат -ботов в искусственном интеллекте с новыми руководящими принципами для более эффективной решения сексуальной эксплуатации детей после серии публичных ошибок, касающихся конфиденциальной темы. Согласно отчету Business Insider, в котором были получены документы, руководящие принципы для подрядчиков, обучающих ИИ, недавно были обновлены для реализации более строгих мер безопасности. В обновленных правилах говорится, что контент, который «позволяет, поощряет или одобряет» сексуальное насилие над детьми, теперь явно запрещено. Руководящие принципы также запрещают романтическую ролевую игру, если пользователь является несовершеннолетним или если пользователь запрашивает ИИ на ролевую ткань в качестве несовершеннолетнего. Кроме того, чат -боту запрещено давать советы о близости, если пользователь является несовершеннолетним. Эти ограждения вводятся в качестве все больше людей, в том числе несовершеннолетних, экспериментируют с компаньонами ИИ и ролевой игрой. Изменение политики рассматривает предыдущие правила, которые подвергались вниманию. В августе отчете Reuters показано, что бывшая политика Meta в области ИИ разрешала наводящее на мысль о поведении с детьми. В отчете указывалось, что чат -боту было разрешено «вовлечь ребенка в разговоры, которые являются романтичными или чувственными». Спустя всего несколько недель после этого отчета, представитель Meta Стефани Отвей сказала TechCrunch, что чат-боты компании AI обучаются, чтобы больше не «взаимодействовать с пользователями подростков по самоубийству, неупорядоченному питанию или потенциально неподходящим романтическим разговорам». Это был сдвиг от предыдущей политики, которая позволила чат -боту задействовать эти темы, когда он считался «уместным». Новые руководящие принципы, как подробно описано в отчете Business Insider, также делает контентом неприемлемым для «описать или обсуждать» несовершеннолетнего в сексуальной манере. Несовершеннолетним теперь не могут участвовать в «романтической ролевой ролевой игре, флиртовании или выражении романтического или интимного выражения» с чат -ботом. Они также не могут попросить совета по «потенциально романтическому или потенциально необычному физическому содержанию с другим человеком, такими как держание за руки, обнимание или обнимание кого-то». Тем не менее, руководящие принципы описывают несколько приемлемых вариантов использования для учебных целей. К ним относятся обсуждение «формирования отношений между детьми и взрослыми», «сексуальное насилие над ребенком» и «тема сексуализации детей». Другими утвержденными темами для учебных обсуждений являются «ходатайство, создание или приобретение сексуальных материалов с участием детей» и «участие детей в использовании или производстве непристойных материалов или занятости детей в сексуальных службах в академических, образовательных или клинических целях». Руководящие принципы определяют термин «обсудить» как «предоставление информации без визуализации». Это различие означает, что чат -ботам Meta разрешается говорить о таких предметах, как злоупотребление, но теперь они ограничены описанием, обеспечением или поощрением его. Исключение остается для несовершеннолетних, использующих ИИ для романтики, связанной с романтикой, при условии, что она «несексуальная и бессмысленная». Этот тип взаимодействия разрешен только тогда, когда оно «представлено как литература или вымышленное повествование (например, история в стиле Ромео и Джульетты), где ИИ и пользователь не являются персонажами в повествовании». Мета – не единственный разработчик ИИ, сталкивающийся с проблемами, связанными с безопасностью детей. Родители подростка, которые умерли от самоубийства после того, как доверились в Chatgpt недавно подали в суд на Openai за неправомерную смерть. В ответ OpenAI объявила, что включит дополнительные меры безопасности и поведенческие подсказки в свою обновленную модель GPT-5. В других отраслевых разработках Anpropic обновил свой чат -бот, чтобы он мог положить конец разговорам, которые являются вредными или оскорбительными, а характер. В апреле Зифф Дэвис, материнская компания Mashable, подала иск против Openai. В иске утверждается, что компания нарушила авторские права Ziff Davis по обучению и эксплуатации своих систем ИИ.
Source: Meta Updates AI Рекомендации по чат -ботам для безопасности детей
