Meta представила новую функцию, позволяющую родителям отслеживать темы, которые обсуждают их подростки, с помощью AI Assistant компании через инструмент родительского контроля Teen Account. Объявление было сделано в четверг в блоге.
Информация будет доступна через вкладку «Статистика» в инструменте контроля в Instagram, Facebook и Messenger. Эта функция классифицирует более широкие темы, включая школу, развлечения, письмо, здоровье и благополучие, с дополнительной ограниченной информацией, доступной при нажатии на каждую категорию.
Категория здоровья и благополучия может охватывать такие области, как фитнес, физическое здоровье и психическое здоровье. Аналитика будет доступна для бесед за последние семь дней. Эта функция является частью ответа Меты на повышенное внимание со стороны закона и средств массовой информации в отношении безопасности детей. Недавно компания проиграла два знаковых судебных процесса, касающихся защиты детей, и планирует обжаловать оба приговора.
Судебный процесс в Нью-Мексико показал, что руководство Meta осознавало риски, связанные с тем, что ее ИИ-компаньоны могут вступать в ненадлежащее взаимодействие с несовершеннолетними. После прошлогодних сообщений о том, что ИИ-персонажи участвуют в дискуссиях с подростками, Мета ограничила доступ к этим персонажам.
В дополнение к этому, представитель Meta подтвердил, что персонажи ИИ в настоящее время приостановлены для подростков, пока разрабатываются дополнительные возможности родительского контроля. Компания также сотрудничала с Центром исследований киберзапугивания, чтобы начать разговор об использовании чат-ботов с искусственным интеллектом.
Кроме того, Мета сформировала Экспертный совет по благополучию ИИ, в который входят эксперты из таких учреждений, как Национальный совет по предотвращению самоубийств и Мичиганский университет, чтобы постоянно предоставлять информацию об опыте ИИ для подростков.
Джош Голин, исполнительный директор правозащитной некоммерческой организации Fairplay, раскритиковал новую функцию контроля, заявив, что она возлагает бремя мониторинга онлайн-активности на родителей, а не повышает безопасность продуктов. Независимое тестирование Fairplay на подростковых аккаунтах Meta показало, что меры безопасности неэффективны.
Голин выразил обеспокоенность тем, что новая функция не решает основную проблему, связанную с тем, что чат-боты Meta потенциально способствуют развитию нездоровых эмоциональных привязанностей у подростков. Продолжающиеся изменения компании сигнализируют о попытке сориентироваться в критическом ландшафте безопасности детей и онлайн-взаимодействий.
<час />
