Последний AI Chatbot Meta вызвал значительные противоречия конфиденциальности после того, как было обнаружено, что настройки по умолчанию инструмента публично транслировали взаимодействие с пользователями. Это откровение, сообщаемое основными новостными агентствами на этой неделе, раскрыло широкий спектр конфиденциальной информации, от медицинских запросов до юридических проблем, без явного согласия пользователей.
AI Chatbot, запущенный ранее в 2025 году, автоматически устанавливает все взаимодействия с пользователями для «публичных», если люди активно не регулируют свои настройки конфиденциальности. Этот выбор дизайна привел к тому, что многочисленные пользователи, в том числе пожилые люди и дети, что неосознанно делятся очень личной и конфиденциальной информацией с широкой аудиторией. Примеры включают в себя пользователей, спрашивающих о генитальных травмах, молодых людях, ищущих руководство по гендерным переходам, и лиц, требующих помощи по юридическим вопросам, таким как сотрудничество с властями по сокращению уголовных приговоров.
Эти публичные посты часто включали имена пользователей и изображения профиля, непосредственно связывающие запросы с учетными записями в социальных сетях пользователей. Это превращает частные медицинские тревоги и юридические проблемы в постоянные, общедоступные записи.
Мета включала всплывающее предупреждение, в котором говорится: «Подсказки, которые вы публикуете, являются публичными и видимыми для всех… избегайте обмена личной или конфиденциальной информацией». Однако критики утверждают, что этого предупреждения было недостаточным. Многие пользователи не понимали, что они публикуют общественный корм, особенно учитывая, что они могут не ожидать, что взаимодействие с чат-ботом ИИ появится в социальных сетях. Пресс -релиз Meta, в котором объявляется функция, описанную «Discover Feed, место, где можно поделиться и изучить, как другие используют ИИ», создавая публичные обмен частными разговорами в качестве функции, а не недостатком.
Инцидент зажег более широкие дебаты о конфиденциальности ИИ и потенциале для этих инструментов для разоблачения конфиденциальных пользовательских данных. Электронный Frontier Foundation (EFF) предупреждает, что AI чат -боты могут непреднамеренно раскрыть личную информацию с помощью «утечки модели». Это относится к риску того, что модели ИИ, посредством их обучения и работы, могут непреднамеренно раскрывать информацию о данных, на которые они обучались, или о людях, которые взаимодействовали с ними.
Помимо мета -инцидента, опасения по поводу конфиденциальности ИИ широко распространены. Обследование Национального альянса кибербезопасности 2024 года показало, что 38% сотрудников делятся конфиденциальной рабочей информацией с инструментами ИИ без разрешения их работодателя. Это подчеркивает потенциал для корпоративных секретов и конфиденциальных данных, которые будут скомпрометированы благодаря использованию чат -ботов ИИ.
Власти защиты данных также сталкиваются с последствиями конфиденциальности ИИ. Например, Голландское управление по защите данных получило многочисленные уведомления о нарушении от компаний, чьи сотрудники вводятся медицинские данные о пациентах и адреса клиентов в чат -боты искусственного интеллекта. Эти инциденты подчеркивают риск нарушения правил конфиденциальности и раскрытия конфиденциальной личной информации.
Даже услуги искусственного интеллекта, которые утверждают, что предлагают лучшую защиту конфиденциальности, не застрахованы от проблем. Claude’s Claude претендует на более сильную защиту по умолчанию, в то время как CHATGPT требует оплачиваемых подписок для гарантийных данных не используется для обучения. Тем не менее, эти политики могут быть изменены в любое время, что может позволить компаниям задним числом получить доступ к годам сохраненных разговоров. Это заставляет пользователей зависит от надежности корпораций, основанных на прибыли, противостоять искушению монетизации огромных лоток интимных пользовательских данных.
Недавние нарушения данных еще больше подчеркнули уязвимость систем ИИ. OpenAI пережил нарушение данных, которое выявило внутренние дискуссии, в то время как более миллиона запис о чате DeepSeek были оставлены в необеспеченной базе данных. Эти инциденты демонстрируют потенциал для конфиденциальной информации, хранящейся в системах искусственного интеллекта, будет скомпрометирована посредством уязвимостей безопасности.
Обзор технологий MIT предупредил, что мы стремимся к «катастрофу» и конфиденциальности, поскольку инструменты искусственного интеллекта становятся все более интегрированными в повседневную жизнь. Миллионы пользователей делятся медицинскими тревогами, рабочими секретами и личными проблемами с чат -ботами ИИ, создавая постоянные записи, которые могут быть раскрыты, проданы или субны. Мета -инцидент просто выявил то, что многие считают, что среди компаний искусственного интеллекта является обычной практикой: сбор интимных разговоров для получения прибыли, в то время как пользователи несут весь риск.
В то время как нарушения GDPR могут привести к значительным штрафам – до 20 миллионов евро или 4% глобальных доходов – поступление против компаний по искусственным технологиям остается ограниченным. Более того, текущая документация GDPR и CCPA не адекватно рассматривает, как личная информация обрабатывается в данных обучения ИИ или выходов моделей.
Инцидент мета -чат -бот служит резким напоминанием о том, что любая информация, передаваемая с AI Chatbot, сегодня потенциально уязвима для будущего воздействия. Это может произойти через изменения корпоративной политики, нарушения безопасности или юридические требования. В то время как Meta Public Feed Distaster является очень заметным примером, это подчеркивает более широкую проблему, когда компании ИИ собирают и потенциально злоупотребляют конфиденциальными пользовательскими данными. По крайней мере, мета -пользователи могут увидеть свои смущающие вопросы публично и попытаться удалить их. Остальные из нас понятия не имеют, что происходит с нашими разговорами.
Source: Meta AI Chatbot публично раскрывает пользовательские данные
