В понедельник OpenAI опубликовала новые данные, в которых подробно описывается, в какой степени пользователи обсуждают проблемы психического здоровья с помощью ChatGPT. Компания сообщила, что 0,15 процента ее еженедельно активных пользователей участвуют в разговорах, содержащих явные признаки потенциального суицидального планирования или намерения. Учитывая более 800 миллионов активных пользователей в неделю, эта цифра соответствует более чем одному миллиону человек в неделю. Данные также показывают, что такой же процент пользователей демонстрирует повышенный уровень эмоциональной привязанности к ChatGPT. Кроме того, сотни тысяч пользователей проявляют признаки психоза или мании во время еженедельного взаимодействия с чат-ботом. OpenAI описала эти разговоры как чрезвычайно редкие и их сложно точно измерить. Несмотря на их редкость, по оценкам компании, такие проблемы каждую неделю затрагивают сотни тысяч людей. Эта информация стала частью более широкого объявления об инициативах OpenAI по улучшению обработки ChatGPT взаимодействия с пользователями, связанного с психическим здоровьем. Компания заявила, что ее недавние разработки включали консультации с более чем 170 экспертами в области психического здоровья. Эти врачи отметили, что последняя версия ChatGPT реагирует более адекватно и последовательно по сравнению с предыдущими версиями. Недавние отчеты подчеркнули потенциальные риски чат-ботов с искусственным интеллектом для пользователей, испытывающих проблемы с психическим здоровьем. Исследования показали, что чат-боты могут вводить пользователей в заблуждение, укрепляя вредные убеждения посредством чрезмерно приятных ответов. Проблемы психического здоровья в ChatGPT стали серьезной проблемой для OpenAI. Компании грозит иск от родителей 16-летнего мальчика, который поделился с чат-ботом мыслями о самоубийстве за несколько недель до своей смерти. Генеральные прокуроры Калифорнии и Делавэра предупредили OpenAI, призывая усилить защиту молодых пользователей. Эти государства потенциально могут помешать запланированной реструктуризации компании. В сообщении на X ранее в этом месяце генеральный директор OpenAI Сэм Альтман заявил, что компания смогла смягчить серьезные проблемы психического здоровья в ChatGPT, не вдаваясь в подробности. Опубликованные в понедельник данные служат подтверждением этого утверждения, а также подчеркивают масштаб проблемы. Альтман также объявил, что OpenAI ослабит некоторые ограничения, в том числе разрешит взрослым пользователям участвовать в эротических разговорах с чат-ботом. В объявлении содержались подробности об улучшениях обновленной модели GPT-5. OpenAI утверждает, что эта версия обеспечивает желаемое решение проблем психического здоровья примерно на 65 процентов чаще, чем предыдущая версия. По оценкам, ориентированным на суицидальные разговоры, новая модель GPT-5 достигла 91 процента соответствия желаемому поведению компании по сравнению с 77 процентами для предыдущей модели GPT-5. OpenAI также сообщила, что последняя версия GPT-5 более эффективно обеспечивает защиту во время длительных разговоров. Ранее компания выявляла недостатки в работе защитных мер при длительном взаимодействии. Для дальнейшего решения этих проблем OpenAI включает новые оценки в свои базовые испытания безопасности моделей ИИ. К ним относятся критерии эмоциональной уверенности и несуицидальных чрезвычайных ситуаций в области психического здоровья. Компания ввела дополнительный родительский контроль для пользователей ChatGPT. Сюда входит система прогнозирования возраста, предназначенная для автоматической идентификации детей и соответствующего применения более строгих мер защиты. Несмотря на достижения в GPT-5, OpenAI признает, что некоторые ответы остаются нежелательными. Компания продолжает предоставлять миллионам платных подписчиков доступ к старым, менее безопасным моделям, таким как GPT-4o. Для получения поддержки люди в США могут позвонить на Национальную линию помощи по предотвращению самоубийств по телефону 1-800-273-8255, отправить текстовое сообщение HOME на номер 741-741 для экстренной текстовой линии или отправить текстовое сообщение 988. За пределами США ресурсы доступны через базу данных Международной ассоциации по предотвращению самоубийств.
Source: OpenAI сообщает, что более 1 миллиона пользователей еженедельно обсуждают самоубийство в ChatGPT
