Трейлер Megalopolis оказался в затруднительном положении после того, как выяснилось, что некоторые из его обзорных цитат были поддельными и сгенерированы искусственным интеллектом. Эдди Иган, который отвечал за маркетинг трейлера, был отстранен от должности из-за этого беспорядка.
Трейлер включал выдуманные рецензии, которые критиковали классические фильмы Фрэнсиса Форда Копполы. В нем ложно утверждалось, что «Крестный отец» был «небрежным, эгоистичным фильмом», а «Апокалипсис сегодня» был «эпическим куском мусора». На самом деле, оригинальные рецензии были положительными и хвалили фильмы.
Эта ситуация подчеркивает растущую проблему с ИИ: он может галлюцинировать. Это проблема не только трейлеров к фильмам; ошибки ИИ также повлияли на юридические документы и судебные дела. Например, адвокат Майкла Коэна подал поддельные судебные дела, а юристы колумбийской авиакомпании допустили похожие ошибки. Даже рэпер Прас Мишель проиграл судебное дело, потому что его адвокат использовал аргумент, сгенерированный ИИ.
Что такое галлюцинации ИИ? Скандал с трейлером «Мегаполиса» показывает, как они работают
Галлюцинации ИИ возникают, когда искусственный интеллект генерирует информацию, которая звучит убедительно, но на самом деле является ложной или вводящей в заблуждение. Скандал с трейлером «Мегаполиса» привлек внимание к этому термину.
В этом случае в трейлере были фальшивые цитаты из рецензий на фильмы Фрэнсиса Форда Копполы, в которых утверждалось, что «Крестный отец» был «небрежным», а «Апокалипсис сегодня» — «эпическим куском мусора». Эти цитаты были созданы ИИ, но они не соответствовали реальным положительным отзывам об этих фильмах. ИИ «галлюцинировал» эти цитаты, создавая правдоподобные, но ложные утверждения.
Галлюцинации ИИ случаются, потому что технология может генерировать текст на основе шаблонов, которые она узнала из данных, но не понимает содержание по-настоящему. Она может смешивать факты, создавать ошибки или полностью выдумывать вещи, что и произошло с вводящими в заблуждение обзорами в трейлере.
Этот инцидент подчеркивает риски использования ИИ без надлежащих проверок. Как и в случае с «Мегаполисом», где поддельные цитаты привели к серьезным последствиям для участников, галлюцинации ИИ могут вызвать путаницу и ущерб, если ими не управлять. Это напоминание о том, что, хотя ИИ может быть мощным, крайне важно проверять его вывод, чтобы избежать вводящей в заблуждение информации.
Источник изображения: ИМДБ
Source: Если вы будете использовать ИИ таким образом, вы потеряете работу.
