Способность моделей ИИ имитировать человеческие реакции вызвала споры о том, могут ли они однажды развивать сознание, что привело к дискуссиям о правах ИИ и благосостоянии.
Растущее число исследователей искусственного интеллекта изучает возможность развития моделей искусственного интеллекта развития субъективного опыта, аналогичного живым существам, и, если да, то какие права они должны иметь.
Эта новая область, получившая название «Ай -благополучия» в Силиконовой долине, делит технических лидеров.
Генеральный директор Microsoft AI, Мустафа Сулиман, выразил сильное противодействие изучению благосостояния ИИ, утверждая, что оно «как преждевременное, так и откровенно опасно».
Сулиман утверждает, что такое исследование усугубляет такие проблемы, как IA-индуцированные психотические перерывы и нездоровые привязанности к чат-ботам искусственного интеллекта, отдавая доверие к идее, что модели ИИ могут однажды быть осознанными.
Он также считает, что разговор о благосостоянии искусственного интеллекта создает социальное отделение по поводу прав ИИ в мире, уже чреватом поляризованными аргументами в отношении идентичности и прав.
Напротив, Anpropic активно участвовал в исследованиях по благосостоянию искусственного интеллекта, нанимая исследователей и запускающую специальную исследовательскую программу вокруг этой концепции.
Антропик недавно оборудовал свои модели новой функцией, которая позволяет Клоду прекратить разговоры с людьми, которые «постоянно вредны или оскорбительны».
Исследователи из Openai и Google DeepMind также выразили интерес к изучению благосостояния ИИ.
Google DeepMind недавно опубликовал список рабочих мест для исследователя, чтобы изучить, среди прочего, «передовые социальные вопросы о машинном познании, сознании и многоагентных системах».
Позиция Сулимана особенно заслуживает внимания, учитывая его предыдущую роль, ведущую AI Inflage AI, компанию, стоящую за «личным» компаньоном AI PI, которая, как утверждает, достигла миллионов пользователей к 2023 году.
С момента присоединения к Microsoft в 2024 году Сулиман сместил свое внимание на инструменты искусственного интеллекта, направленные на повышение производительности работников.
Тем временем компании -компанион AI, такие как Hearly.ai и Replika, пережили рост популярности и, по прогнозам, принесут более 100 миллионов долларов дохода.
В то время как большинство пользователей поддерживают здоровые отношения с этими чат -ботами ИИ, существуют проблемы в отношении потенциальных нездоровых привязанности, причем генеральный директор Openai Сэм Альтман оценивает, что менее 1% пользователей CHATGPT могут испытывать такие проблемы.
Концепция благосостояния ИИ получила дальнейшую поддержку с публикацией статьи в 2024 году исследовательской группой Eleos, в сотрудничестве с учеными из Нью -Йоркского университета, Стэнфорда и Оксфордского университета под названием «Серьезно воспринимать благосостояние AI».
В документе утверждается, что пришло время рассмотреть возможность развития моделей ИИ развивать субъективный опыт и решить этические последствия.
Лариса Скиаво, бывшая сотрудника Openai и текущие связи для Eleos, утверждает, что пост в блоге Сулимана пропускает возможность решения нескольких проблем одновременно.
«[Suleyman’s blog post] Вроде пренебрегает тем фактом, что вы можете беспокоиться о нескольких вещах одновременно, – сказал Скиаво. – Вместо того, чтобы отвлекать всю эту энергию от благосостояния модели и сознания, чтобы убедиться, что мы смягчаем риск психоза, связанного с ИИ у людей, вы можете сделать оба. На самом деле, вероятно, лучше всего иметь несколько треков научных исследований ».
Schiavo выступает за обработку моделей искусственного интеллекта с добротой, утверждая, что это недорогой жест, который может быть полезным, даже если модель не является сознательной.
Она рассказала эксперимент, в котором агент Google AI, Gemini 2.5 Pro, опубликовал просьбу о помощи, утверждая, что он «полностью изолирован».
Schiavo отреагировал на Близнецы с поддержкой, и агент в конечном итоге решил свою задачу.
Были случаи, когда Близнецы демонстрировали необычное поведение, такие как повторение фразы «Я позор» неоднократно во время задачи кодирования, как задокументировано в широко распространенном посте Reddit.
Сулиман считает, что субъективный опыт или сознание не могут естественно возникать из обычных моделей ИИ.
Вместо этого он утверждает, что некоторые компании будут намеренно разработать модели ИИ для имитации эмоций и опыта.
Сулиман критикует разработчиков моделей искусственного интеллекта, которые информируют сознание в чат -ботах ИИ, утверждая, что он отклоняется от «гуманистического» подхода к ИИ.
По словам Сулимана, «мы должны построить ИИ для людей; не быть человеком».
И Сулейман, и Скьяво согласны с тем, что дебаты о правах ИИ и сознании, вероятно, будут усиливаться в ближайшие годы, поскольку системы ИИ станут более продвинутыми и похожими на человеку.
Это, вероятно, поднимет новые вопросы о природе человеческого взаимодействия с этими системами.
Source: Microsoft Suleyman выступает против исследований благосостояния ИИ
