OpenAI представила в ChatGPT функцию «прогнозирования возраста» для идентификации несовершеннолетних, что позволяет устанавливать соответствующие ограничения на контент в их разговорах. Критика по поводу влияния ИИ на молодых людей усилилась. ChatGPT OpenAI связан с самоубийствами среди подростков. Чат-бот также подвергся критике за обращение к юным пользователям на сексуальные темы. В частности, в апреле компания признала наличие ошибки, позволяющей ее чат-боту генерировать эротику для пользователей младше 18 лет. OpenAI занимается решением проблемы несовершеннолетних пользователей. Новая функция «прогнозирования возраста» дополняет существующие средства защиты. Эта функция использует алгоритм искусственного интеллекта для анализа «поведенческих сигналов и сигналов на уровне учетной записи» из учетных записей пользователей для выявления молодых пользователей, как подробно описано в сообщении в блоге компании во вторник. Эти «сигналы» включают заявленный возраст пользователя, срок действия учетной записи и типичные часы активности. OpenAI в настоящее время использует фильтры контента, чтобы исключить обсуждения сексуального контента, насилия и других тем, которые считаются проблематичными для пользователей младше 18 лет. Если механизм прогнозирования возраста идентифицирует учетную запись как принадлежащую несовершеннолетнему, эти фильтры применяются автоматически. Пользователи, ошибочно отнесенные к категории несовершеннолетних, могут вернуть статус своей учетной записи. Они могут отправить селфи партнеру OpenAI по проверке личности, Persona, для проверки возраста.

  Ubisoft закрывает серверы!

Автор избранного изображения

Source: OpenAI запускает инструмент прогнозирования возраста ИИ, чтобы ограничить использование ChatGPT для несовершеннолетних