OpenAI сообщила, что утечка данных ChatGPT была вызвана уязвимостью в коде. Открытый исходный код framework в своем чат-боте, который был исправлен быстро и, по-видимому, с минимальными последствиями, но этот инцидент может быть предвестником будущих угроз для чат-боты и пользователи, и OpenAI принимает меры предосторожности, чтобы избежать будущих утечек данных в приложении.
Когда ЧатGPT и другие чат-боты изначально стали публично доступный, информационная безопасность сообщество было обеспокоено тем, как технология ИИ может использоваться для проведения кибератак. Злоумышленникам не потребовалось много времени, чтобы узнать, как обойти проверки безопасности и использовать ЧатGPT для написания вредоносного кода.
Столы, кажется, повернулись. Вместо того, чтобы использовать ChatGPT для создания киберкатастроф, злоумышленники теперь активировали саму технологию. В соответствии с Неделя безопасности, OpenAI, компания, создавшая чат-бота, обнаружила утечку данных ChatGPT в системе, вызванную слабостью в структуре с открытым исходным кодом. Утечка данных ChatGPT вывела сервис из строя до тех пор, пока его не удалось исправить.
Популярность ChatGPT была очевидна с момента его выпуска в конце 2022. Все хотели поиграть с чат-ботом, от авторов до профессионалов в области программного обеспечения. Несмотря на свои недостатки (некоторые его тексты были неуклюжими или плагиатом), ChatGPT быстро стал самым быстрорастущим потребительским приложением в истории, с более чем 100 миллионов в месяцпользователи к январь. В течение месяца после выпуска примерно 13 миллионов человек ежедневно использовали технологию ИИ. В сравнении, ТИК Такеще одному чрезвычайно популярному приложению, потребовалось девять месяцев, чтобы набрать сопоставимое количество пользователей.
Утечка данных ChatGPT
Это всего лишь вопрос времени, когда популярное приложение или технология станет целью злоумышленников. В случае с утечкой данных ChatGPT эксплойт стал возможен благодаря уязвимости в открытом исходном коде. Редис библиотека. Теперь пользователи могут просматривать историю разговоров других текущих пользователей.
В соответствии с Тяжелый.ИИбиблиотеки с открытым исходным кодом используются для «разработки динамических интерфейсов путем хранения легкодоступных и часто используемых подпрограмм и ресурсов, таких как классы, данные конфигурации, документация, справочные данные, шаблоны сообщений, предварительно написанный код и подпрограммы, спецификации типов и значения. ».
Redis используется OpenAI для хранения информации о пользователях для более быстрого вызова и доступа. Поскольку тысячи участников создают и используют код с открытым исходным кодом, уязвимости могут легко проявиться и остаться незамеченными. Поскольку субъекты угроз знают об этом, количество атак на библиотеки с открытым исходным кодом увеличилось на 742% с 2019 года.
ЧатGPT уязвимость была небольшой по большому счету, и OpenAI исправила ее в течение нескольких дней после ее обнаружения. Однако даже незначительные киберинциденты могут нанести значительный ущерб.
Однако это был лишь незначительный инцидент. Исследователи взлома данных ChatGPT копнули глубже и обнаружили, что та же самая уязвимость, вероятно, была причиной видимости платежной информации в течение нескольких часов до того, как ChatGPT был отключен.
«Некоторые пользователи могли видеть имя и фамилию другого активного пользователя, адрес электронной почты, платежный адрес, последние четыре цифры номера кредитной карты (только) и дату истечения срока действия кредитной карты». «Полные номера кредитных карт никогда не раскрывались», — говорится в заявлении OpenAI по поводу инцидента.
Чат-боты, искусственный интеллект, кибербезопасность и нарушение данных ChatGPT
Утечка данных ChatGPT была устранена быстро и, по-видимому, с минимальными последствиями, при этом количество затронутых платящих клиентов составило менее 1% своих пользователей. Однако инцидент может быть предвестником будущих угроз для чат-ботов и пользователей.
Уже есть проблемы с конфиденциальностью в отношении использования чат-ботов. Марк МакКрири, сопредседатель ЛисаРотшильдТОО практика конфиденциальности и безопасности данных, сказал Си-Эн-Эн что ChatGPT и чат-боты аналогичны черному ящику в авиалайнере. Технология искусственного интеллекта накапливает огромные объемы данных, а затем использует эти данные для получения ответов на запросы и подсказки. Кроме того, все, что находится в памяти чат-бота, становится доступным для других пользователей.
Чат-боты, например, могут собирать заметки одного пользователя по любой теме, а затем обобщать или искать дополнительные сведения. Однако, если эти примечания содержат конфиденциальные данные, такие как интеллектуальная собственность организации или конфиденциальная информация о клиентах, они добавляются в чат-бот библиотека. Пользователь потерял контроль над информацией.
Ограничения ИИ ужесточаются
Некоторые предприятия и целые страны принимают жесткие меры по защите конфиденциальности. JPMorganГнаться, например, ограничила использование ChatGPT своими работниками из-за ограничений компании в отношении стороннего программного обеспечения и приложений, но есть также опасения по поводу безопасности финансовой информации, введенной в чат-бот. А Италия назвала защиту данных граждан причиной временной блокировки программы по всей стране. Чиновники заявили, что беспокойство связано с GDPR согласие.
Также ожидается, что злоумышленники будут использовать ChatGPT для отправки сложных и реалистичный фишингэлектронные письмав соответствии с эксперты. Плохой язык и странное построение фраз больше не являются признаками фишинговой схемы. Чат-боты теперь будут подражать естественным говорящим, отправляя индивидуальные сообщения. ChatGPT способен к безупречному языковому переводу, который изменит правила игры для врагов из других стран.
Использование ИИ для создания кампаний по дезинформации и заговоров — не менее вредная техника. Последствия этой практики могут выходить за рамки киберугроз. Исследователи использовали ЧатGPT создать статью, похожую на все, что видели на InfoWars или другие известные веб-сайты, пропагандирующие теории заговора.
OpenAI устраняет угрозы
Развитие утечки данных чат-ботов принесет новые киберриски либо из-за более сложных языковых способностей, либо из-за их популярности. В результате технология становится основной целью вектора атаки. С этой целью OpenAI принимает меры предосторожности, чтобы избежать утечки данных в приложении в будущем. Он будет платить вознаграждение за ошибку до 20 000 долларов всем, кто найдет ранее неизвестные уязвимости.
Однако, согласно Новости хакеров, «программа не распространяется на проблемы безопасности моделей или галлюцинаций, когда чат-боту предлагается генерировать вредоносный код или другие ошибочные выходные данные». Таким образом, похоже, что OpenAI хочет защитить технологию от внешних атак, но мало что делает для предотвращения того, чтобы чат-бот стал источником кибератак.
ChatGPT и другие чат-боты станут ключевыми игроками в сфере кибербезопасности. Только время покажет, станет ли технология целью атак или их генератором.
Утечки данных и кибератаки являются одними из самых серьезных проблем современности. Вы не согласны? Взгляните на это:
- Нарушение данных T-Mobile: затронуто 37 миллионов учетных записей
- Утечка данных Twitter: пострадали 400 миллионов пользователей
Source: Утечка данных ChatGPT: OpenAI подтверждает уязвимость в библиотеке с открытым исходным кодом
