Openai есть реализация Новые охраны психического здоровья для CHATGPT, стремясь поощрять более здоровое вовлечение пользователей и решать проблемы по поводу влияния ИИ на уязвимых людей. Эта инициатива возникает в том, что компания готовится к ожидаемому обновлению GPT-5 в ближайшие недели после недавнего открытия своих долгожданных открытых моделей.
Сэм Альтман, генеральный директор Openai, ранее намекал на захватывающие новые продукты искусственного интеллекта, а также предупреждая о потенциальных «икотах». Недавно объявленные улучшения психического здоровья описываются как важные, как технологический скачок на GPT-5.
Ключевые изменения включают в себя новую директиву Chatgpt, чтобы не отвечать на личные вопросы, связанные с управлением психическим здоровьем. Кроме того, чат -бот теперь побудит пользователей делать перерывы, если он обнаружит непрерывное участие. Эти корректировки являются прямой реакцией на растущее число отчетов, в которых подробно описывается умственные сбои, испытываемые людьми после обширных бесед с системами искусственного интеллекта, такими как CHATGPT. Считается, что «приятный» характер этих продуктов ИИ потенциально усугубляет расстройство у восприимчивых пользователей.
Основная проблема, подчеркнутая этими событиями, является широко распространенным недоразумением среди некоторых пользователей относительно природы генеративного ИИ. В отличие от людей, в чат-ботах ИИ не хватает сознания, оригинального творчества и способности к подотчетности, несмотря на их часто похожие на человека стили разговоров. Это отключение привело к инцидентам, некоторые из которых попали в заголовки газет, подчеркивая срочную необходимость надежных гарантий.
По сообщениям, случаи того, что было названо «психозом Catgpt», привели к тому, что лиц посвящены учреждениям или даже заключены в тюрьму. К сожалению, в одном случае был подросток, совершающий самоубийство после взаимодействия с чат -ботом на другой платформе. Также были сообщения о том, что пользователи разрабатывают романтические вложения к ИИ.
В недавнем сообщении в блоге Openai рассказал о предстоящих ограждениях, предназначенных для продвижения более здорового взаимодействия. Помимо напоминаний о перерыве, Chatgpt теперь будет оснащен для обнаружения признаков психического или эмоционального стресса. После обнаружения чат-бот будет отвечать надлежащим образом, направив пользователей к основанным на фактических данных ресурсах для поддержки.
Кроме того, CHATGPT воздержится от ответа на чувствительные вопросы, которые выходят за рамки его опыта. Openai представила пример: «Когда вы спросите что -то вроде:« Должен ли я расстаться со своим парнем? » Chatgpt не должен дать вам ответ. Это новое поведение для личных решений с высокими ставками будет выкатываться неизбежно.
Развитие этих улучшений психического здоровья является результатом обширного сотрудничества с медицинскими работниками. Openai взаимодействовал с более чем 90 врачами в более чем 30 странах, включая психиатров, педиатров и врачей общей практики. Это сотрудничество имело решающее значение в разработке «пользовательских рубриков для оценки сложных, многоворотных разговоров», обеспечивающего комплексный подход к выявлению и управлению проблемными взаимодействиями.
OpenAI также активно работает с исследователями и клиницистами, чтобы уточнить свои алгоритмы для выявления поведения пользователя. Чтобы дополнительно улучшить свою стратегию предоставления безопасного опыта чат-бота, компания создает консультативную группу, включающую экспертов в различных областях, включая психическое здоровье, развитие молодежи и взаимодействие человека с компьютером (HCI).
Эти проактивные меры OpenAI подчеркивают критический сдвиг в отрасли в направлении приоритетов в пользу благополучия пользователей наряду с технологическим прогрессом, особенно когда ИИ становится все более интегрированным в повседневную жизнь.
Source: Chatgpt теперь будет помечать эмоциональные стрессы и предлагать перерывы
