OpenAI, исследовательская лаборатория искусственного интеллекта, недавно опубликовала заявление, касающееся проблем безопасности, связанных с ее продуктами. Заявление сделано в ответ на несколько противоречий, возникших в последние недели, включая призыв лидеров отрасли приостановить разработку таких моделей, как GPT-4, запрет ChatGPT в Италии и жалобу в Федеральную торговую комиссию о рисках. опасной дезинформации, особенно для детей.
Обязательство безопасности OpenAI направлено на то, чтобы убедить общественность в том, что ее продукты безопасны, но при этом признать, что еще есть возможности для улучшения. Компания подчеркнула, что работает над обеспечением безопасности в своих системах на всех уровнях и стремится сотрудничать с политиками и заинтересованными сторонами для создания безопасной экосистемы ИИ.
Однако в заявлении не было подробностей о том, как OpenAI планирует снижать риски, обеспечивать соблюдение своих политик или работать с регулирующими органами.
Илон Маск и Стив Возняк опубликовали открытое письмо с призывом к полугодовой паузе.
Гибридное опровержение-извинение, опубликованное в четверг, было направлено на то, чтобы убедить общественность в том, что товары компании безопасны, и признать, что есть возможности для роста.
Обещание безопасности от OpenAI звучит как реакция на все недавние споры. Только за последнюю неделю ChatGPT был полностью запрещен в Италии. Илон Маск и Стив Возняк опубликовали открытое письмо с призывом к шестимесячной паузе в разработке моделей, подобных GPT-4, и подали жалобу в Федеральную торговую комиссию, утверждая, что ЧатGPT создает опасные риски дезинформации, особенно для детей.
О, и был этот сбой, который позволял кому-либо видеть общение пользователей в чате и личную информацию.
В соответствии с OpenAI, он пытается «обеспечить безопасность, встроенную в нашу систему на всех уровнях». Прежде чем выпустить GPT-4, OpenAI потратил более полугода».тщательное тестирование», и сказал, что ищет альтернативы проверки, чтобы реализовать требование о возрасте старше 18 лет.
Бизнес подчеркнул, что не продает конфиденциальную информацию, а использует ее только для улучшения моделей ИИ. Он также заявил о своей готовности работать с законодателями и продолжать работу с заинтересованными сторонами ИИ «для создания безопасной экосистемы ИИ».
OpenAI признал, что почти в середине обещания безопасности для создания безопасного LLM требуется обратная связь из реального мира. В нем утверждается, что изучение отзывов общественности сделает модели более безопасными и позволит OpenAI отслеживать неправомерное использование.
«Реальное использование также привело нас к разработке все более тонкой политики против поведения, которое представляет реальный риск для людей, позволяя при этом использовать множество полезных приложений нашей технологии».
OpenAI предлагает «подробности о подходе к безопасности», но помимо обещания расследовать проверку возраста, большая часть заявления читается как стандартные клише. Было мало информации о том, как он намерен снижать риски, реализовывать политику или сотрудничать с властями.
OpenAI получает удовольствие от создания продуктов ИИ прозрачным образом, но в объявлении мало подробностей о том, что она планирует делать теперь, когда ее ИИ находится в дикой природе.
Какова логика OpenAI?
Согласно OpenAI, их модель ChatGPT, которая преподавалась с использованием обучения с подкреплением на основе отзывов людей (РЛХФ) метод машинного обучения, может имитировать диалог, отвечать на дополнительные запросы, признавать ошибки, оспаривать неверные предпосылки и отклонять неуместные запросы.
Первоначально преподаватели искусственного интеллекта обеспечивали модель взаимодействиями, в которых они выступали как в роли клиента, так и в качестве помощника искусственного интеллекта. Версия бота для общедоступного тестирования пытается понять пользовательские запросы и ответы с подробными ответами, которые напоминают написанный человеком текст в диалоговом формате.
Если вы еще не испытали ChatGPT, вы можете сделать это прямо сейчас нажав это.
Source: Ответ OpenAI на негативную реакцию: меры безопасности и сотрудничество с политиками
