Новая уязвимость в Google Gemini для рабочей области позволяет фишинговым атакам, манипулируя резюме по электронной почте без вложений или прямых ссылок. Раскрыта исследователем Марко Фигероа через Mozilla 0din Программа Bug Bounty, метод использует косвенные подсказки, скрытые в электронных письмах.
Злоумышленники внедряют вредоносные инструкции в текст тела электронной почты, используя HTML и CSS, чтобы сделать их невидимыми. Когда получатель просит Близнецов обобщить электронное письмо, ИИ анализирует и подчиняется скрытой директиве. В примере показано, что Близнецы генерируют фальшивое предупреждение о безопасности о скомпрометированном пароле Gmail, включая номер телефона поддержки, представляющий собой законное предупреждение.
В то время как Google заявил, что они затвердевают защиту и внедряют смягчения, они не видели доказательств этой атаки в дикой природе. Фигероа предлагает командам безопасности удалить или нейтрализовать скрытый контент и реализовать фильтры после обработки на выходе Близнецов. Пользователям рекомендуется не учитывать суммирование Близнецов, авторитетные для оповещений о безопасности.
Source: Как хакеры могут вооружить сводную функцию Близнецов
