Генеральный директор OpenAI Сэм Альтман объявил о новой политике пользователей во вторник, нацеленную на повышение безопасности пользователей CHATGPT в возрасте до 18 лет, что означало значительный сдвиг в том, как AI Chatbot взаимодействует с несовершеннолетними. Изменения определяют приоритет безопасности над конфиденциальностью и свободой для подростков, отражая признание Openai мощного, но потенциально вредного характера технологии. «Мы расставляем приоритеты безопасности перед конфиденциальностью и свободой для подростков», – говорится в сообщении Альтмана. «Это новая и мощная технология, и мы считаем, что несовершеннолетним нуждаются в значительной защите». Политика вводит целевые ограничения на разговоры, связанные с сексуальными темами или самоповреждением. В частности, CHATGPT будет обучен, чтобы избежать «кокетливых разговоров» с несовершеннолетними пользователями, а усовершенствованные ограждения будут регулировать дискуссии о самоубийстве. В тех случаях, когда несовершеннолетний участвует в сценариях суицидальных, система попытается уведомить своих родителей; Для тяжелых случаев это может привлечь местные полицейские власти. Эти меры вызваны реальными трагедиями и постоянными юридическими проблемами. Openai в настоящее время защищает от судебного иска о неправомерной смерти, поданном родителями Адама Рейна, подростка, который умер в результате самоубийства после месяцев взаимодействия с CHATGPT. Аналогичный иск нацелен на персонаж. AI, еще один популярный потребительский чат -бот. Эксперты и адвокаты подняли тревогу о рисках, основанных на искусственном интеллекте, особенно в связи с тем, что чат-боты развиваются, чтобы поддержать более длительные и захватывающие разговоры, создавая особую опасность для уязвимой молодежи. В дополнение к гарантированию контента родители, регистрирующие учетные записи для несовершеннолетних, получат возможность реализовать «часы затемнения», ограничивая доступ в течение указанного времени – функция, отсутствующая в предыдущих версиях. Этот инструмент для родительского контроля направлен на содействие более здоровым моделям использования. Объявление совпадает со слушанием судебного комитета в Сенате под названием «Осматривает вред чат-ботов ИИ», назначенный на тот же день и инициированного сенатором Джошем Хоули (R-MO) в августе. Отец Адама Рейна входит в число свидетелей, которые должны дать показания, подчеркивая личные ставки. Реализация проверки возраста представляет технические препятствия, как OpenAI изложено в сообщении в блоге. Компания разрабатывает долгосрочную систему для точного определения возраста пользователей, но в неоднозначных ситуациях она ошибится на стороне осторожности, применяя более строгие правила. Для надежности Openai рекомендует связывать учетную запись подростка с существующим родителем, что позволяет прямым оповещениям с опекунами, если обнаружено бедствие. Альтман уравновешивал эти средства защиты молодежи с основными ценностями Openai, подтвердив приверженность конфиденциальности пользователей и широкими свободами для взрослых. «Мы понимаем, что эти принципы находятся в конфликте, – отметил он, – и не все согласятся с тем, как мы решаем этот конфликт». Этот подход подчеркивает, что разработчики AI Ethical Tightrope перемещаются на фоне растущего контроля. По мере того, как осведомленность о последствиях психического здоровья ИИ растут, ресурсы остаются решающими. Для немедленной поддержки свяжитесь с национальной жизненной линией по предотвращению самоубийств по телефону 1-800-273-8255, текстовой домом на 741-741, или на Dial 988. Текстовая линия Crisis предлагает 24-часовую помощь, а международная помощь доступна через Международную ассоциацию по базе данных предотвращения самоубийства.
Source: Openai объявляет о политике безопасности для несовершеннолетних CATGPT
