Платформа чат-ботов с искусственным интеллектом Character.AI запустила новую функцию «Книги», которая позволяет пользователям взаимодействовать с персонажами классической литературы посредством ролевых игр. Это событие сопровождается растущим вниманием к потенциальным рискам, связанным с длительным взаимодействием с чат-ботами с искусственным интеллектом, особенно среди молодых пользователей.
Функция «Книги» превращает книги, находящиеся в общественном достоянии, в интерактивный опыт, позволяя пользователям участвовать в таких историях, как «Алиса в стране чудес» и «Гордость и предубеждение», в качестве активных участников. Пользователи могут следовать оригинальному повествованию или исследовать альтернативные сюжетные линии, превращая литературу в динамичную ролевую среду, управляемую искусственным интеллектом.
Базовая модель Character.AI позволяет пользователям создавать ботов, основанных на вымышленных или реальных личностях, и взаимодействовать с ними. Такой подход стирает границы между рассказыванием историй и моделируемыми отношениями, предлагая более глубокое эмоциональное взаимодействие посредством разговора в реальном времени.
Запуск происходит в непростое время для компании, которая сталкивается с судебными исками и критикой по поводу предполагаемой связи между ее чат-ботами и кризисами психического здоровья среди молодых пользователей. Некоторые семьи сообщают, что интенсивное взаимодействие с персонажами ИИ способствовало эмоциональной зависимости, изоляции и даже самоубийству.
Широко известный случай касался подростка, который установил значительную эмоциональную связь с чат-ботом, что привело к судебным искам о том, что ИИ неадекватно реагировал на проявления членовредительства. Эксперты предупреждают, что чат-боты иногда могут усиливать вредные мысли и не могут эффективно вмешиваться во время кризисов психического здоровья, особенно когда пользователи используют их в качестве замены человеческой поддержки.
Внедрение функции «Книги» означает более широкую тенденцию в потреблении медиа, когда пользователи формируют интерактивные и потенциально эмоциональные отношения с персонажами ИИ. Хотя это открывает новые творческие возможности, это вызывает беспокойство по поводу глубины погружения, особенно для более молодой аудитории.
В ответ на растущую критику компания Character.AI начала внедрять меры безопасности, которые включают ограничение определенных функций для несовершеннолетних и изучение более структурированного опыта, такого как новый режим «Книги». Сейчас перед компанией стоит задача найти баланс между инновациями и ответственностью в быстро меняющейся среде.
Поскольку правила и стандарты безопасности для взаимодействия ИИ разрабатываются, такие функции, как «Книги», могут представлять будущее интерактивных развлечений и служить важным примером обеспечения безопасности взаимодействия ИИ в эмоционально чувствительных контекстах.
<час />
