Лента новостей Facebook превратилась в странное и тревожное место. Диковинные изображения, казалось бы, созданные искусственным интеллектом, привлекают необычайное внимание.
От мускулистых коров до Иисуса, переосмысленного в виде креветки, эти причудливые создания распространяются по платформе, сопровождаемые хором «Аминь» от ничего не подозревающих пользователей.
Но за волной цифрового абсурда скрывается более мрачная реальность — сеть страниц, созданная для того, чтобы заманить пользователей в клик-фермы, нагруженные рекламой.
Шлюзы ИИ открыты
В основе этого явления лежат десятки страниц Facebook, неустанно публикующих изображения, сгенерированные искусственным интеллектом. На этих страницах часто демонстрируются причудливые темы, например посты на тему Иисуса или стюардессы в необычных сценариях. Посты собирают тысячи реакций, от недоуменных комментариев до похвал, похожих на ботов, поскольку сбитые с толку пользователи пытаются понять, настоящие изображения или нет.
Согласно недавнему анализу, проведенному Стэнфордская Интернет-обсерватория, эти изображения собрали сотни миллионов откликов. Замысловатые портреты Иисуса, созданные искусственным интеллектом (иногда сделанные из пластиковых бутылок, иногда вырезанные из песка), являются одними из самых вирусных изображений. В последнее время ИИ-Иисус становится все более популярным, при этом центральное место занимают креветки, крабы и подобные существа. Стюардессы, в основном изображаемые как женщины из Восточной Азии, обычно изображаются в самых неожиданных сценариях: молящимися с Иисусом, держащими кресты или обливающимися грязью. Между тем, маленькие чернокожие дети становятся вирусной сенсацией, демонстрируя якобы созданные вручную шедевры, такие как тигры, созданные искусственным интеллектом и сделанные из шин.
Кто стоит за потоком искусственного интеллекта?
Мотивация этого потока изображений ИИ неясна. Подавляющее большинство этих сообщений не раскрывают свою природу, созданную искусственным интеллектом, несмотря на требование Meta маркировать такой контент. Хотя возможность мошенничества обсуждается, это может быть просто случай, когда пользователи используют лазейку для вирусного контента.
Поскольку генеративная технология искусственного интеллекта становится все более доступной, растет обеспокоенность тем, что эти синтетические изображения могут быть использованы для дезинформации и дезинформационных кампаний.
Украденные страницы Facebook и вирусная сеть
Стэнфордское исследование показывает, что многие из этих Спам-страницы ИИ перепрофилируются из законных профилей.
Школы, церкви и даже страницы школьных групп были угнаны и превращены в центры для странных изображений ИИ. Сообщается, что попытки первоначальных владельцев вернуть свои страницы были встречены молчанием со стороны Facebook.
Зрелище и беспокойство
Хотя зрелище вызывает одновременно веселье и недоумение, чувство беспокойства растет. Пользователи предполагают, что эти страницы могут быть использованы для выявления потенциальных объектов мошенничества. Огромный объем сенсационного контента ИИ в сочетании с доверчивыми пользователями может создать сеть для злоумышленников и мошеннических схем.
Причудливая сага о креветках, созданных искусственным интеллектом, изображениях Иисуса и грязных стюардессах в Facebook бросает суровый свет на возникающую проблему. По мере того, как генерация изображений с помощью ИИ становится все более сложной, грань между безобидной странностью и опасными манипуляциями стирается. Это подчеркивает необходимость того, чтобы платформы социальных сетей, такие как Facebook, занимали более активную позицию в выявлении и маркировка контента, созданного ИИ.
Автор избранного изображения: Люби Бога и Бог любит тебя/Facebook.
Source: Алгоритм Facebook сошел с ума: искусственный спам и странный рост популярности «Креветки Иисуса»
