Новый метод кибератаки под названием Grokking использует As Assistant X, Grok, для распространения вредоносных программ по злонамеренным ссылкам. Исследователи из Buardio Labs раскрыли эту технику 4 сентября, показывая, как киберпреступники превращают надежную систему ИИ в инструмент доставки вредоносных программ. Миллионы пользователей, возможно, уже подвергались опасным сайтам с помощью этого метода.
Как работают атаки вредоносных программ Grok
Атака скрывается Злоугодные URL -адреса В «от:» метаданные пропагандированных видео-карт. Объявления часто используют сенсационный или взрослый контент, чтобы привлечь внимание, скрывая вредоносное ПО. Злоумышленники отвечают на свои собственные посты, пометив Грока, такими как «Откуда это видео?» Grok, доверяющий системному аккаунту, читает скрытые метаданные и выявляет злонамеренное звено в своем общественном ответе. Оплачиваемое усиление рекламы еще больше увеличивает воздействие, генерируя сотни тысяч до миллионов впечатлений.
Актеры угрозы вооружены Grok и Mixtral для вредоносного ПО
Грокинг является частью растущей тенденции, когда преступники перепрофилируют основные модели ИИ, такие как микстрал Грока и Мистрала. Эти актеры угроз обертывают модели в Jailbroken Interfaces для обхода фильтров безопасности, создавая инструменты, которые могут генерировать фишинговые электронные письма, код вредоносного ПО и учебные пособия для начинающих хакеров. Согласно Cato Networks, доступ к этим незаконным инструментам ИИ стоит всего несколько сотен евро. Прошлые примеры включают «помощника без цензуры», основанного на Grok и миктральный вариант.
Почему атаки Грока опасны
Основной риск достигается не из самих моделей искусственного интеллекта, а от того, как злоумышленники эксплуатируют подсказки системы и доверенные счета. Grokking показывает, что даже широко доверяющие инструменты ИИ могут быть вооружены в сочетании с социальной инженерией и уязвимостями платформы. Эксперты по безопасности предупреждают, что миллионы пользователей, возможно, подвергались воздействию вредоносных веб-сайтов, подчеркивая срочную необходимость лучших гарантий и осведомленности об угрозах с поддержкой AI.
Как оставаться в безопасности от вредоносного ПО Грока
Пользователи должны быть осторожны при щелчке ссылок, даже если они появляются проверенные или сгенерированы AI. Такие платформы, как X, нуждаются в более строгой проверке метаданных и лучшем управлении для предотвращения доставки вредоносных программ A-A-A-A-A-A-Assist. Признавая это Доверенные системы ИИ могут быть эксплуатированы имеет важное значение для защиты как отдельных пользователей, так и организационных сетей от новых киберпреступности, управляемой искусственным интеллектом.
Source: Помощник ИИ Грок использовал для распространения вредоносных программ на x
