На этой неделе компания OpenAI столкнулась с двумя серьезными проблемами безопасности, которые вызвали серьезную обеспокоенность относительно того, как компания обеспечивает кибербезопасность:
Первая проблема: уязвимость безопасности приложения ChatGPT для Mac
Педро Жозе Перейра Виейто обнаружил серьезную уязвимость в приложении ChatGPT для Mac. Он обнаружил, что приложение хранило разговоры пользователей в виде обычного текста на компьютере без какого-либо шифрования. Это большая проблема, поскольку приложение доступно только на веб-сайте OpenAI и не соответствует требованиям безопасности Apple. Эти требования, известные как песочница, помогают не допустить, чтобы приложения вызывали проблемы для остальной части системы.
Приложение OpenAI ChatGPT на macOS не изолировано и сохраняет все разговоры в виде **обычного текста** в незащищенном месте:
~/Library/Application Support/com.openai.chat/conversations-{uuid}/
Таким образом, по сути, любое другое приложение или вредоносная программа может читать все ваши разговоры ChatGPT: pic.twitter.com/IqtNUOSql7
— Педро Хосе Перейра Виейто (@pvieito) 2 июля 2024 г.
Хранение простого текста означает, что любой, у кого есть доступ к компьютеру, может легко прочитать эти разговоры, что делает их уязвимыми для других приложений или вредоносных программ. После того, как выводы Виэйто были сообщены ГраньOpenAI быстро выпустила обновление для шифрования сохраненных чатов.
Вторая проблема: более широкие проблемы кибербезопасности
Вторая проблема датируется 2023 годом, но вновь оказалась в центре внимания на этой неделе. Весной прошлого года хакер получил доступ к внутренним системам обмена сообщениями OpenAI и украл конфиденциальную информацию компании. Леопольд Ашенбреннер, технический менеджер программ OpenAI, поднял тревогу по поводу этого взлома, заявив, что он выявил серьезные уязвимости безопасности, которые могут быть использованы иностранными врагами.
Ашенбреннер сообщили эти опасения совету директоров OpenAI. Позже он утверждал, что был уволен за то, что вынес эти проблемы на свет. Однако OpenAI отрицала это, заявляя, что его уход не был связан с его разоблачением, хотя они признали его приверженность безопасности ИИ.
Последствия для OpenAI
Проблемы безопасности случаются во многих технологических компаниях, но эти инциденты особенно беспокоят OpenAI из-за того, насколько широко используется ChatGPT. Эти проблемы поднимают вопрос о том, сможет ли OpenAI сохранить свои данные в безопасности, особенно по мере того, как ChatGPT становится все более интегрированным в основные сервисы.
Ответ OpenAI на эти проблемы имеет решающее значение для поддержания общественного доверия. Их методы обеспечения безопасности и прозрачность сейчас находятся под пристальным вниманием, и то, как они справятся с этими проблемами, определит их будущую репутацию.
OpenAI сталкивается со значительными проблемами безопасности. Недавние проблемы с приложением ChatGPT для Mac и более широкие уязвимости кибербезопасности подчеркивают необходимость в более эффективных мерах безопасности и четкой коммуникации. Поскольку OpenAI продолжает внедрять инновации, решение этих проблем безопасности будет иметь важное значение для поддержания доверия и обеспечения безопасной разработки ИИ.
Автор изображения: Эрай Элиачик/Бинг
Source: Двойная доза проблем безопасности OpenAI за одну неделю