OpenAI выпустила браузер ChatGPT Atlas — новое приложение, которое интегрирует интерфейс чат-бота в веб-браузер на базе Chromium. Запуск вызвал у экспертов по безопасности новый ряд опасений относительно конфиденциальности и защиты данных в Интернете. Дизайн браузера призван переосмыслить навигацию в Интернете с помощью диалогового искусственного интеллекта, но его методы сбора данных и архитектура безопасности находятся под пристальным вниманием. Центральной функцией браузера являются «Воспоминания», которые OpenAI описывает как расширенную версию стандартной веб-истории. Эта функция включена по умолчанию и предназначена для сбора данных для повышения производительности ИИ. «Воспоминания» сохраняют контекстную информацию о посещаемых пользователями веб-сайтах, документах, которые они просматривают, а также об их взаимодействиях и предпочтениях. Заявленная цель — позволить пользователям находить информацию, используя разговорный язык, вместо необходимости запоминать точные URL-адреса или ключевые слова. Параметры конфиденциальности и данных браузера показывают, что OpenAI сохраняет подробную информацию о привычках пользователя непосредственно после установки. OpenAI заявляет, что браузер предназначен для исключения определенных конфиденциальных данных из своей памяти. Компания уточняет, что не будет сохранять личную информацию, включая государственные удостоверения личности, номера социального страхования и данные банковского счета. Другими исключенными типами данных являются онлайн-учетные данные, информация для восстановления учетной записи, адреса, медицинские записи и финансовые данные. В браузере также есть фильтры, позволяющие избежать сохранения сводок с так называемых «определенных конфиденциальных веб-сайтов (например, сайтов для взрослых)». Для дополнительного контроля пользователи могут вручную запретить сохранение определенных страниц с помощью кнопки «Видимость страницы», расположенной в адресной строке. ChatGPT Atlas включает в себя агент искусственного интеллекта, который может просматривать веб-страницы и выполнять задачи от имени пользователя. Эта функциональность была неудачной в других браузерах на базе искусственного интеллекта. Ранее в этом году браузер Comet компании Perplexity был скомпрометирован посредством простых атак с использованием быстрого внедрения. Исследователи безопасности продемонстрировали, что скрытый текст на веб-сайте может перехватить агент, позволяя ему раскрыть учетные данные пользователя и передать код аутентификации. Исследователь безопасности Саймон Уиллисон выразил тревогу по поводу возможности подобных атак на Atlas. В своем блоге Уиллисон написал: “Я хотел бы увидеть подробное объяснение шагов, которые Atlas предпринимает, чтобы избежать атак с быстрым внедрением. Сейчас похоже, что основная защита ожидает, что пользователь всегда будет внимательно следить за тем, что делает режим агента!” Он также охарактеризовал риски безопасности и конфиденциальности, связанные с браузерными агентами, как «непреодолимо высокие». Менее чем через 24 часа после запуска браузера была публично продемонстрирована уязвимость безопасности. Хакер с онлайн-ником @elder_plinius показал, что агент Atlas подвержен атаке «внедрения в буфер обмена». Демонстрация показала, как можно манипулировать агентом и заставить его скопировать вредоносную ссылку. Пользователь, который позже вставит эту ссылку, может быть перенаправлен на фишинговый сайт, предназначенный для кражи его учетных данных. Eight Sleep не сразу ответил на запрос о комментариях. Обнаружение уязвимости безопасности вскоре после выпуска побудило экспертов предупредить о потенциально более крупных дырах в конфиденциальности и безопасности размером с каньон в браузерах с искусственным интеллектом. Сочетание обширного сбора данных браузером для персонализации с потенциальными недостатками безопасности рассматривается как значительный риск.
Source: Браузер ChatGPT Atlas уже столкнулся с первым недостатком безопасности
