Поиск Google — это инструмент, который мы все используем почти рефлекторно, и изменения в его поведении могут оказать большое влияние на то, как мы находим информацию в Интернете.
Недавно Google реализовал функцию, Google SGE, где некоторые результаты поиска теперь включают сводки, созданные искусственным интеллектом. В недавнем ограниченное внедрение, затрагивающее некоторых пользователей в СШАпоявилась новая функция Google, показывающая обобщенные результаты с помощью искусственного интеллекта. выразил обеспокоенность по поводу модерации.
Хотя Google рассчитывает, что это будет полезно, похоже, что эти сводки имеют непреднамеренная темная сторона. Наблюдается тревожный рост представлены мошеннические сайты и сайты с вредоносным ПО в этих обзорах ИИ.
В чем особенность сводок, созданных ИИ?
Идея этой функции довольно проста: Google хочет предоставлять быстрые ответы без необходимости посещать кучу веб-сайтов. Для некоторых запросов, например «сколько столовых ложек в чашке», сводки ИИ могут быть очень полезны. Однако иногда ответы, генерируемые ИИ, являются неполными, вводящими в заблуждение или просто неправильными.
Что еще более тревожно, они иногда активно продвигать опасный контент.
Замечено Лили Рэй на Xпоисковая система Google, основанная на искусственном интеллекте, SGE, в качестве ответа рекомендует спам-сайты:
О, ХОРОШО.
В ОТВЕТЕ SGE ДАЖЕ ПОРЕКОМЕНДУЕТ СПАМ-САЙТЫ. pic.twitter.com/wqgFFXqbMB
— Лили Рэй
(@lilyraynyc) 22 марта 2024 г.
Это имеет серьезные последствия для безопасности в Интернете. Поисковые системы — это наши ворота в Интернет, и многие пользователи безоговорочно доверяют лучшим результатам. Сводки, созданные ИИ, которые выглядят как законные ответы, могут придать мошенникам дополнительный уровень доверия.
Как ИИ Google обманывают для получения мошеннических сводок?
Специалисты по поисковой оптимизации (SEO) и менее щепетильные владельцы веб-сайтов уже давно манипулируют поисковыми алгоритмами, чтобы повысить рейтинг своего сайта. Теперь те же самые методы используются для передачи вводящей в заблуждение информации искусственному интеллекту Google с целью перехвата этих сводок.
Вот пример того, как это может работать:
- Мошенническая установка: Мошенник создает веб-сайт, предлагающий слишком хорошую сделку, например, iPhone с большой скидкой.
- Алгоритм игры: Они наполняют свой сайт ключевыми словами и контентом, созданным для того, чтобы он казался релевантным, даже если он наполнен фиктивными обзорами и технической тарабарщиной.
- ИИ перехитрил: ИИ Google, сканируя сайт в поисках информации, не замечает обманчивых шаблонов и обманывается, заставляя думать, что сайт — отличный ресурс.
- Опасное резюме: когда кто-то ищет информацию, связанную с этим продуктом, ИИ генерирует сводку, в которой заметно выделяется мошеннический сайт.
Не доверяйте машине (полностью)
Хотя Google надеется улучшить способность своего искусственного интеллекта обнаруживать и фильтровать вредоносный контент, очень важно осознавать риски.
Вот как оставаться в безопасности:
- Перепроверьте источники: даже при наличии сводок ИИ найдите время и изучите предлагаемый веб-сайт. Ищите признаки подозрительных веб-адресов (например, необычных доменов верхнего уровня, таких как .online), общего дизайна сайта или переизбытка восторженных отзывов, которые кажутся слишком похожими.
- Традиционный поиск по-прежнему ваш друг: не отказывайтесь полностью от прокрутки стандартных результатов поиска. Авторитетные сайты часто по-прежнему предлагают наиболее точную информацию.
- Скептицизм – это щит: Если сделка кажется невероятно выгодной, то почти наверняка так оно и есть. Не поддавайтесь слишком хорошим предложениям, даже если в резюме Google они подтверждаются.
Вывод? Развитие искусственного интеллекта требует осторожности
Хотя ИИ обладает потенциалом для оптимизации многих онлайн-задач, очень важно осознавать его ограничения и возможность неправильного использования. Сводки, созданные с помощью ИИ, могут быть неоднозначными.
Пока его способность выявлять сомнительные веб-сайты не улучшится, применяйте здоровую дозу критического мышления к результатам поиска.
Автор избранного изображения: Гугл/Ютуб
Source: Сводки Google AI вызывают тревогу, поскольку результаты поиска слишком «умные»