Группа Google Threat Intelligence Group (GTIG) объявила об обнаружении эксплойта нулевого дня, предположительно разработанного искусственным интеллектом. Это знаменует собой первое обнаружение компанией такого эксплойта, который был предназначен для «массовой эксплуатации». GTIG заявил, что превентивное обнаружение могло предотвратить потенциальные атаки.
Хотя Google не верит, что ее собственные модели Gemini были задействованы в создании эксплойта, у компании есть «высокая уверенность», что модель искусственного интеллекта сыграла роль в обнаружении и использовании уязвимости в качестве оружия. Конкретная цель эксплойта не разглашается, но Google проинформировала затронутую неназванную компанию, которая впоследствии устранила проблему.
GTIG не раскрыл личности участников угроз, но отметил, что группы, связанные с Китаем и Северной Кореей, проявили значительный интерес к использованию ИИ для кибер-эксплойтов. В отчете подчеркивается, что субъекты угроз все чаще используют ИИ на различных стадиях кибератак, что вызывает тревогу по поводу будущих рисков, связанных с атаками с использованием ИИ.
Джон Халтквист, главный аналитик GTIG, охарактеризовал этот инцидент как «предчувствие того, что будет дальше» и «верхушку айсберга», иллюстрирующую развивающееся использование искусственного интеллекта в киберпреступности. Он отметил, что этот случай представляет собой первое «осязаемое свидетельство» подобных нападений.
Несмотря на опасности, которые представляет собой ИИ в умелых руках, Google утверждает, что ИИ также может быть эффективным инструментом защиты кибербезопасности. Другие компании также внедряют ИИ для защитных мер. Например, в прошлом месяце Anthropic анонсировала проект Glasswing, который фокусируется на использовании искусственного интеллекта для выявления и смягчения «высококритичных уязвимостей».
<час />
