Представьте себе, что вы просыпаетесь однажды утром и видите свою дочь, убитую 18 лет назад, в лице чат-бота с искусственным интеллектом… К сожалению, примеров несанкционированного использования лиц и имен умерших людей становится все больше. Вы можете сразу решить эту ситуацию со своими адвокатами, если вы известны. Например, OpenAI попыталась использовать голос Скарлетт Йоханссон без разрешения, и им пришлось немедленно отозвать его. Но что происходит, когда обычный человек сталкивается с такой ситуацией? Семья Дженнифер Энн Кресенте переживает эту драму и взваливает на себя это бремя, а не закон. К сожалению, медленная адаптация закона к этой новой технологии причиняет ненужные страдания тем, кто остался позади.
В нашем отчете будут рассмотрены важнейшие правовые проблемы в этих делах и подчеркнуто, почему важно не смотреть в другую сторону. Последствия слишком серьезны, и игнорирование их только способствует продолжению такой несправедливости. В частности, несанкционированное использование имени и фотографии молодой девушки по имени Дженнифер чат-ботом с искусственным интеллектом спустя 18 лет после ее смерти является одним из самых болезненных примеров этой дискуссии. Вы можете найти полное заявление ее дяди по этому поводу. здесь.
Когда ИИ превращает потерянного любимого человека в чат-бота
Дженнифер Энн Кресенте было всего 18 лет, когда ее жизнь трагически оборвалась. Семья Дженнифер Энн Кресенте провела годы в честь своей дочери как они боролись с ее потерей. По словам ее дяди, образовательные проекты ее отца от имени Дженнифер и его участие в конкурсах дизайна видеоигр были важными способами сохранить память о ней. Однако однажды утром дядя Дженнифер был потрясен электронным письмом. На Character.ai, платформе чат-ботов на базе искусственного интеллекта, был создан бот, использующий имя и лицо Дженнифер. С семьей не спросили разрешения, а когда они узнали, снова почувствовали боль.
Чат-бот стал недоступен после того, как семья предприняла необходимые действия. Однако почему семья должна была предпринять эти действия? Бот был отключен только после того, как дядя Дженнифер опубликовал об инциденте в социальных сетях. Что, если бы он этого не сделал?
Спасибо, что обратили на это наше внимание. https://t.co/Ft9b0j47zQ имеет политику против выдачи себя за другое лицо, и персонаж, использующий имя г-жи Кресенте, нарушает нашу политику. Мы немедленно удалим его и проверим, оправданы ли дальнейшие действия.
— Персонаж.AI (@character_ai) 2 октября 2024 г.
Как написал Брайан Кресенте в своем блоге: «По какой-то причине, увидев улыбающееся лицо моей Дженни-Пенни, размещенное на сайте искусственного интеллекта рядом с ее именем и используемое в качестве идентификатора для чат-бота, у меня просто перехватило дыхание. Я до сих пор чувствую это, как волны тепла и холода накатывают на меня».
Эта ситуация иллюстрирует индивидуальные страдания и огромную юридическую и этическую проблему. Так почему же мы сталкиваемся с такими ситуациями?
Неужели права умерших и тех, кто остался, не защищены?
Несанкционированное использование имен, лиц и личностей умерших людей создает огромные пробелы в существующих законах. В большинстве стран, хотя личные права живых людей строго защищены, для умерших такой защиты не существует. Это означает, что семьи мало что могут сделать против несанкционированного использования имен и лиц своих близких. С юридической точки зрения большой проблемой является то, что в большинстве стран подобные ситуации не могут рассматриваться как злоупотребление или нарушение прав.
Отец в ужасе от чат-бота с искусственным интеллектом, который имитировал его убитую дочь @форбс https://t.co/LoypMNg7uz
— Брайан Кресент (@crecenteb) 2 октября 2024 г.
Как выразился Кресенте: «Дело в том, почему мы должны быть устойчивыми? Почему компании с многомиллиардными оборотами не утруждают себя созданием этических, руководящих принципов и действующих барьеров, чтобы этого никогда не произошло? Почему скорбящие и обиженные должны сообщить об этом компании и надеяться, что они поступят правильно?»
Эти вопросы указывают на досадные пробелы в правилах и отчаяние, которое они вызывают у таких людей, как семья Дженнифер, и других людей, оказавшихся в аналогичных ситуациях.
ИИ эксплуатирует мертвых из-за нормативных пробелов
Эти ситуации имеют юридические и гуманные последствия, которые мы не можем игнорировать. Подобные происшествия вновь подрывают усилия семей погибших сохранить память о своих близких. Учитывая в основном нерегулируемое развитие технологий искусственного интеллекта, мы можем столкнуться с большим количеством ситуаций, в которых инструменты искусственного интеллекта используют личности, имена и изображения людей без согласия. Законодатели и регулирующие органы должны незамедлительно принять меры для решения этих проблем.
Как показано в этом прискорбном случае, неправильное использование технологии искусственного интеллекта ставит под угрозу суть, которая определяет человечество, отдавая приоритет коммерческим интересам. Крайне важно, чтобы законы оперативно регулировали эти вопросы, а компании серьезно относились к своим этическим обязанностям, чтобы предотвратить дальнейший вред и злоупотребления.
Изображение предоставлено: Брайан Кресенте с помощью Паданпиксель
Source: Когда ИИ грабит могилу и начинается борьба за посмертные права