API OpenAI o1 меняет то, как модели ИИ справляются со сложными задачами. Модели серии o1 превосходны в научных и логических рассуждениях, поощряя глубокое мышление. Эти модели в настоящее время доступны в бета-версии и установили впечатляющие показатели, включая высокие рейтинги в конкурентном программировании и превосходство над экспертами-людьми в различных научных областях.
Понимание моделей до появления API OpenAI o1
API OpenAI o1 теперь имеет токены рассуждений. Модели o1 используют токены рассуждений, чтобы обдумать проблему перед ответом, в отличие от предыдущих моделей. Модель может решать более сложные задачи благодаря этому внутреннему процессу рассуждений, особенно в таких областях, как кодирование, математика и наука.
Есть две версии API OpenAI o1: o1-preview и o1-mini. Модель o1-preview предназначена для решения сложных задач, требующих большого объема знаний. Эта ранняя предварительная модель показывает, на что способна вся серия o1. O1-mini быстрее и дешевле. Она хороша для задач, не требующих больших общих знаний, но требующих точного рассуждения, например, кодирования и науки.
Чем выделяется API OpenAI o1?
OpenAI o1 API исключительно хорошо справляется с задачами на рассуждение. Модели o1 преуспевают в научном рассуждении, занимая 89-й процентиль по вопросам конкурентного программирования и достигая высоких оценок в отборочных матчах математической олимпиады США. Эти модели точнее людей решают задачи по физике, биологии и химии. Это делает их полезными инструментами в науке.
Поскольку API OpenAI o1 в настоящее время находится в стадии бета-тестирования, разработчикам следует знать о некоторых ограничениях. Бета-версия поддерживает только текстовый ввод, а некоторые параметры API завершения чата пока недоступны. Например, не поддерживаются ввод изображений, системные сообщения и потоковая передача. Кроме того, недоступны такие инструменты, как вызов функций и параметры формата ответа, а некоторые настройки, такие как температура и presence_penalty, исправлены.
Несмотря на эти ограничения, API OpenAI o1 предлагает большое контекстное окно до 128 000 токеновс определенными моделями, допускающими различные максимальные пределы выходных токенов. Модель o1-preview может генерировать до 32,768 токеновв то время как модель o1-mini может генерировать до 65 536 токенов. Это расширенное контекстное окно особенно полезно для решения сложных задач, требующих существенного обоснования.
Управление затратами и лимитами токенов
Одной из проблем работы с API OpenAI o1 является управление расходами, связанными с обширным использованием токенов, требуемых процессом рассуждения. Модели o1 генерируют как токены рассуждения (которые невидимы для пользователя), так и токены завершения (видимый вывод). Чтобы помочь разработчикам управлять этими расходами, OpenAI представила max_completion_tokens параметр, позволяющий пользователям контролировать общее количество сгенерированных токенов.
Этот параметр имеет решающее значение, поскольку количество токенов рассуждения иногда может превышать количество видимых токенов завершения, что приводит к более высоким затратам без соответствующего видимого результата. Регулируя max_completion_tokens параметр, разработчики могут быть уверены, что они останутся в рамках своего бюджета, продолжая при этом пользоваться мощными возможностями рассуждения API OpenAI o1.
Лучшие практики для подсказки моделей o1
При работе с API OpenAI o1 важно, чтобы подсказки были простыми и прямыми. Модели разработаны для работы с простыми инструкциями, и сложные стратегии подсказок, такие как подсказки цепочки мыслей, могут не понадобиться. Кроме того, использование разделителей для обозначения отдельных частей ввода может помочь модели более точно интерпретировать информацию.
Поскольку API OpenAI o1 продолжает развиваться, ожидается, что в будущих обновлениях будут добавлены дополнительные функции, такие как мультимодальность и использование инструментов. На данный момент разработчики могут изучить уникальные возможности o1 модели и экспериментировать с их передовыми функциями рассуждения для создания инновационных приложений.
Как получить доступ к API OpenAI o1
Доступ к API в настоящее время ограничен из-за его статуса бета-версии. Если вы разработчик, заинтересованный в использовании моделей o1, выполните следующие действия, чтобы получить доступ:
- Проверьте свой уровень использования: Доступ к o1 модели ограничено разработчики 5-го уровня. Вы можете проверить свой уровень использования на платформе OpenAI.
- Запросить доступ: Если вы имеете право, запросите доступ через портал разработчиков OpenAI. Возможно, вам потребуется предоставить сведения о предполагаемом варианте использования.
- Поймите ограничения по ставкам: В течение бета-фазы API имеет низкий предел скорости в 20 запросов в минуту (RPM). Планируйте свое использование соответственно.
Получив доступ, вы можете начать экспериментировать с моделями o1-preview и o1-mini через конечную точку завершения чата. Имейте в виду, что дополнительные функции и более широкий доступ могут стать доступными по мере выхода API из стадии бета-тестирования.
Источник изображения: OpenAI
Source: Новый шаг в сложных рассуждениях с OpenAI o1 API