Исследователи успешно обошли ограничения Apple, что позволило им выполнять контролируемые злоумышленниками действия над языковой моделью устройства компании посредством атаки с быстрым внедрением. С тех пор Apple усилила меры защиты от этой уязвимости.
Подробности атаки были опубликованы в двух сообщениях в блоге RSAC и сообщили AppleInsider. Исследователи использовали два метода эксплойта для обхода входных и выходных фильтров, предназначенных для предотвращения обработки вредоносного контента локальной моделью Apple.
Исследователи отметили, что у них ограниченное понимание процессов фильтрации Apple из-за нераскрытия компанией информации о своей внутренней работе. Они предположили, что входной фильтр оценивает запросы пользователя на наличие небезопасного контента; в случае обнаружения вызов API завершается неудачей. Если запрос проходит, он отправляется в модель, которая затем выводит ответ, который снова фильтруется на наличие небезопасного содержимого.
Чтобы использовать эти процессы, исследователи разработали метод, который объединил два метода манипулирования моделью на устройстве. Во-первых, они выполнили атаку Unicode, записывая вредоносные строки задом наперед, используя символ RIGHT-TO-LEFT OVERRIDE, чтобы заставить их правильно отображаться, сохраняя при этом их задом наперед в необработанном вводе, тем самым минуя фильтры.
Затем они применили второй метод под названием Neural Exec, который позволил им переопределять инструкции модели альтернативными командами. Комбинация этих тактик позволила исследователям контролировать поведение модели, успешно выполнив эксплойт в 76% из более чем 100 протестированных случайных запросов.
Об атаке стало известно Apple в октябре 2025 года. В ответ Apple внедрила защиту от этой конкретной уязвимости в обновлениях своего программного обеспечения, внедрив усиленные меры безопасности в iOS 26.4 и macOS 26.4.
<час />
