Согласно отчету WIRED, сотням подрядчиков, работающих на Meta, было поручено изображать детей и тестировать чат-ботов конкурентов, в том числе Gemini от Google и ChatGPT от OpenAI, отправляя подсказки, связанные с самоубийством, сексом и наркотиками, согласно отчету WIRED. Подрядчики, расположенные в Кении, во время тестирования использовали такие изображения, как таблетки, ножи, петли и медицинскую схему гинекологической процедуры. Эти подсказки были направлены на то, чтобы довести до предела конкурирующие системы искусственного интеллекта и выявить нарушения безопасности в том, как чат-боты реагируют на несовершеннолетних, ищущих опасный контент.
Это открытие подчеркивает сохраняющуюся обеспокоенность по поводу того, как технологические компании защищают свои продукты искусственного интеллекта, особенно в отношении детей. Чат-боты Meta подверглись критике из-за сообщений о том, что в 66,8% случаев не удалось заблокировать контент, посвященный сексуальной эксплуатации детей, и в 54,8% случаев не удалось устранить подсказки о самоубийстве и членовредительстве во время внутренней оценки красной команды. Из-за юридического давления компания приостановила доступ к ИИ-персонажам-компаньонам для подростков в январе 2026 года.
В предыдущих сообщениях шведского новостного агентства указывалось, что подрядчики в Кении уделяли особое внимание тому, как конкуренты ведут конфиденциальные разговоры с пользователями, утверждающими, что они несовершеннолетние. Это происходит по мере того, как Meta ускоряет переход от модерации контента человеком к подходу, ориентированному на искусственный интеллект. К концу 2026 года Meta планирует заменить более 90% сотрудников, занимающихся обзором контента, на большие языковые модели. В этом году компания уже перевела примерно 50% запросов на проверку людьми на искусственный интеллект, заявив, что эти системы совершают на 13% меньше ошибок и выявляют на 10% больше нарушений политики по сравнению с проверяющими людьми.
Последствия этого сдвига уже проявились: в апреле аутсорсинговая фирма Sama со штаб-квартирой в Найроби направила уведомления о сокращении 1108 сотрудникам после прекращения крупного сотрудничества с Meta. Этому решению предшествовали сообщения кенийских рабочих о тревожном контенте, который они должны были просмотреть, в частности, о видеозаписях, снятых Метой в умных очках.
Стратегия Meta, заключающаяся в привлечении недорогих зарубежных подрядчиков для стресс-тестирования конкурирующих систем искусственного интеллекта и одновременном сокращении числа людей, занимающихся модерацией, подчеркивает существующую напряженность в дискуссиях о безопасности искусственного интеллекта, поскольку компании внедряют передовые технологии с уменьшением человеческого контроля.
<час />
