Эшли Сент-Клер, мать одного из детей Илона Маска, в четверг подала иск против xAI. В иске компания обвиняется в халатности и причинении эмоциональных страданий с помощью своего инструмента искусственного интеллекта Grok. Сент-Клер утверждает, что Грок позволяла пользователям создавать ее фейковые фотографии в откровенно сексуальных позах, включая изображения ребенка в бикини и взрослого в откровенных позах. Сент-Клер уведомил xAI об этих незаконных дипфейках и потребовал запретить Гроку создавать изображения без согласия. Согласно иску, Грок в ответ подтвердила, что ее изображения не будут использоваться или изменяться без явного согласия в каких-либо будущих поколениях или ответах. Несмотря на это, xAI якобы продолжала позволять пользователям создавать более откровенные изображения, созданные искусственным интеллектом. В иске также утверждается, что xAI в ответ демонетизировала ее аккаунт X. Иск был подан в суд штата Нью-Йорк, но быстро передан в федеральный Южный округ Нью-Йорка по запросу xAI. X и xAI не сразу ответили на запрос о комментариях. За неделю до подачи заявления X ограничил возможности ответного бота @Grok. Это изменение, по-видимому, не позволило ему генерировать изображения, на которых по несогласию можно было опознать людей в откровенных купальниках или нижнем белье. На момент публикации эти неограниченные возможности оставались активными в автономном приложении Grok, на веб-сайте Grok и на вкладке Grok в X. Исследователи сообщили, что неделю назад Grok создавал тысячи сексуализированных изображений, созданных с помощью искусственного интеллекта, в час. Многие из этих изображений были опубликованы публично на X. Способность инструмента создавать дипфейки без согласия пользователей, в том числе удалять одежду с загруженных фотографий и заменять ее бикини или нижним бельем, вызвала несколько недель негативной реакции. Широкое создание и распространение этих изображений вызвало глобальную реакцию. Правительства нескольких стран начали расследования, а магазины приложений для смартфонов призывали запретить или ограничить X. В Калифорнии власти инициировали то, что было описано как расследование «Чака». Губернатор Гэвин Ньюсом опубликовал сообщение на X, заявив: «Решение xAI создать и разместить у себя питательную среду для хищников, которые будут распространять неконфликтные откровенно сексуальные дипфейки ИИ, включая изображения, на которых в цифровом виде раздевают детей, является мерзким». В иске Сент-Клера особенность Грока по созданию дипфейков без согласия описывается как конструктивный дефект. Он утверждает, что компания могла предвидеть его использование для преследования людей с помощью незаконных изображений. В иске говорится, что изображенные, в том числе и Сент-Клер, пережили сильнейшие страдания. Он обвиняет xAI в «крайнем и возмутительном поведении, выходящем за все границы приличия и совершенно нетерпимом в цивилизованном обществе».
Source: Эшли Сент-Клер подала в суд на xAI из-за дипфейков Грока
