OpenAI выпустила свой план безопасности детей, чтобы активизировать усилия по защите детей в США на фоне растущей обеспокоенности по поводу эксплуатации детей, связанной с искусственным интеллектом. Целью проекта является улучшение выявления, отчетности и расследования случаев эксплуатации детей с помощью ИИ.
Фонд Internet Watch Foundation (IWF) сообщил о более чем 8000 случаях контента о сексуальном насилии над детьми, созданного с помощью искусственного интеллекта, в первой половине 2025 года, что на 14% больше, чем в предыдущем году. Преступники все чаще используют инструменты искусственного интеллекта для создания фальшивых откровенных изображений детей с целью финансового вымогательства и создания убедительных сообщений об уходе за детьми.
Эта инициатива является ответом на повышенное внимание со стороны политиков, педагогов и защитников безопасности детей, особенно после инцидентов, когда молодые люди совершали самоубийство после взаимодействия с чат-ботами с искусственным интеллектом. В ноябре Юридический центр по делам жертв социальных сетей и Законодательный проект по технологическому правосудию подали семь исков против OpenAI в Калифорнии. В этих исках утверждается о преждевременном высвобождении GPT-4o, утверждая, что его психологически манипулятивный характер способствовал неправомерным смертям и серьезным кризисам психического здоровья.
Программа безопасности детей была разработана совместно с Национальным центром по делам пропавших и эксплуатируемых детей (NCMEC) и Альянсом генеральных прокуроров с учетом отзывов официальных лиц, в том числе генерального прокурора Северной Каролины Джеффа Джексона и генерального прокурора Юты Дерека Брауна. В проекте подчеркивается три основных направления: обновление законодательства для учета материалов злоупотреблений, созданных с помощью ИИ, совершенствование механизмов отчетности для правоохранительных органов и внедрение превентивных мер безопасности в системы ИИ.
OpenAI заявляет, что ее цель — более эффективно обнаруживать потенциальные угрозы и обеспечивать передачу следователям полезной информации. Этот план основан на предыдущих инициативах, включая рекомендации по взаимодействию с пользователями младше 18 лет, которые запрещают создание неприемлемого контента и предлагают советы, которые могут помочь скрыть небезопасное поведение от лиц, осуществляющих уход. OpenAI также выпустила схему безопасности для подростков в Индии.
<час />
