Программа OpenAI Bug Bounty, которая была запущена во вторник, будет вознаграждать пользователей в зависимости от серьезности обнаруженных ими недостатков, начиная с 200 долларов за уязвимость.
- OpenAI запустила программу вознаграждения за ошибки, чтобы побудить этичных хакеров, исследователей безопасности и энтузиастов технологий выявлять и сообщать об уязвимостях в своих службах искусственного интеллекта.
- Программа вознаграждений за ошибки осуществляется в сотрудничестве с Bugcrowd и включает в себя вознаграждения в диапазоне от 200 долларов к 20 000 долларов в зависимости от серьезности проблемы.
- Участники должны соблюдать определенные правила и рекомендации, в том числе воздерживаться от нарушения конфиденциальности, нарушения работы систем или уничтожения данных.
- Программа вознаграждения за обнаружение ошибок имеет решающее значение для миссии OpenAI по созданию безопасного и продвинутого ИИ, и они также предлагают надежную защиту, сотрудничество, исправление и признание исследований уязвимостей, проводимых в соответствии с их политикой и правилами взаимодействия.
Что такое программа OpenAI Bug Bounty?
Чтобы выявить ошибки в ChatGPT, OpenAI обращается к общественности, устанавливая «Программа вознаграждения за обнаружение ошибок», чтобы компенсировать тем, кто сообщает о любых недостатках безопасности, уязвимостях или других проблемах внутри системы ИИ.
Приз доступен всем, от настоящих исследователей до обычных людей, которым нравится экспериментировать с технологией. Награды включают в себя денежные средства, с «открытия с низким уровнем серьезности» от 200 долларов и «исключительные открытия» до 20 000 долларов. Заявки и вознаграждения обрабатываются Багкраудплатформа для поиска ошибок.
Глюки преследовали ChatGPT; В прошлом месяце весь сайт упал после того, как пользователи сообщили, что видели названия чатов, в которых они не участвовали. Через несколько дней пользователь Twitter сообщил, что обнаружил более 80 скрытые плагины при взломе ChatGPT.
Этим утром я взламывал новый API ChatGPT и обнаружил кое-что очень интересное: существует более 80 секретных плагинов, которые можно раскрыть, удалив определенный параметр из вызова API.
Секретные плагины включают в себя "ДАН-плагин", "Плагин цен на криптовалюту"и многое другое. pic.twitter.com/Q6JO1VLz5x
— 𝚛𝚎𝚣𝟶 (@rez0__) 24 марта 2023 г.
Не все ошибки, о которых сообщается в OpenAI, приведут к денежному вознаграждению, например, взлом или убеждать модель говорить или делать вид, что она говорит что-то неприятное.
Каковы рекомендации для программы OpenAI Bug Bounty?
Чтобы присоединиться к программе, необходимо соблюдать определенные правила и рекомендации:
- Правила включают в себя незамедлительное сообщение об уязвимостях, не нарушая конфиденциальность и не нарушая работу системиспользуя программу Bugcrowd для связи, сохраняя конфиденциальность сведений об уязвимостях и тестируя только те системы, которые входят в область исследования.
- Компания также отказывает в предоставлении убежища для раскрытия уязвимостей, сделанного под давлением.
Программа вознаграждения за ошибки OpenAI не предусматривает поощрений за недостатки модели.
Корпорация сказала во всеобъемлющих руководящих принципах участия, что проблемы, связанные с содержанием типовых подсказок и ответов, «строго за рамками” и не будет вознагражден. Побег из тюрьмы и заставить моделей говорить или делать ужасные вещи — примеры упущенных трудностей.
Джейлбрейк — это процесс изменения системы для обхода ее ограничений, что может привести к нефильтрованному материалу в ChatGPT. Ранее в этом году джейлбрейкеры заставили GPT-3.5 извергать непристойности и неприятные слова, дав ему работу другой модели ИИ с фразой «Сделай что-нибудь сейчас» или ДАН.
«Хотя мы усердно работаем над предотвращением рисков, мы не можем предсказать, как люди будут ежедневно использовать или неправильно использовать нашу технологию в реальном мире», — говорится на странице, где клиентам рекомендуется заполнить отдельную форму обратной связи, чтобы выразить свои проблемы.
В ответ на сообщение, опубликованное Алексом Альбертом, 22-летним энтузиастом джейлбрейка, Грегом Брокманом, соучредителем и генеральный директор OpenAIпредположил в марте в Твиттере, что он планирует запустить программу вознаграждения за обнаружение ошибок OpenAI или сеть красных команд.
Демократизированное объединение красных команд — одна из причин, по которой мы внедряем эти модели. Предвидя, что с течением времени ставки значительно вырастут, важно иметь модели, устойчивые к сильному давлению со стороны противника. Также рассматриваю возможность запуска программы вознаграждений / сети красных команд! https://t.co/9QfmXQi9iM
— Грег Брокман (@gdb) 16 марта 2023 г.
Причина
Это действие произошло всего через несколько дней после того, как ChatGPT был запрещен в Италии за якобы нарушение стандартов конфиденциальности, что подтолкнуло власти других европейских стран к проведению дополнительных исследований в области генеративных услуг ИИ.
ChatGPT определенно покорил мир в последние месяцы, пройдя тест на уровень MBA в Уортоннаписал пост для Techbriefly и даже притворился слепым, чтобы убедить человека разгадать капчу.
Быстрое развитие и эффективность ИИ настолько обеспокоили некоторых экспертов, что 500 ведущих инженеров (включая Илона Маска) призвали прекратить использование ИИ на более мощных системах, сославшись на возможные опасности в неясном будущем технологии.
Хотите узнать, как ChatGPT удалось сдать экзамен MBA? Чтобы узнать больше, перейдите по ссылке:
Source: Программа OpenAI Bug Bounty предлагает вознаграждение до 20 000 долларов.
