Возможности платформы
Шлюз моделей направляет поддерживаемые запросы настроенным внешним провайдерам. OpenAI-совместимый клиент может использовать следующий базовый адрес для поддерживаемых интерфейсов:Проверка совместимости перед миграцией
Для поддерживаемого вызова в формате OpenAI укажите ключ Rock API и базовый адрес: в Python SDK параметр называетсяbase_url, в Node.js SDK — baseURL. Выберите доступный ID модели и подтвердите поддержку нужного эндпоинта, полей запроса и обработки ответа.
Одной смены адреса недостаточно для подтверждения совместимости. Проверьте функции, которые использует ваше приложение: потоковые ответы, вызовы инструментов, структурированный вывод и, при необходимости, мультимедийный ввод. Следуйте руководству OpenAI-совместимый API, затем выполните небольшой тестовый запрос до переноса производственного трафика.
Отправка первого запроса
- Создайте аккаунт и войдите в панель управления. Перед обращением к платному сервису проверьте доступный баланс или применимый план.
- Откройте API-ключи, создайте ключ для приложения и сохраните его на сервере. Правила работы с учётными данными см. в разделе Аутентификация.
- Выберите модель из актуального каталога. Запишите её точный ID, используемую группу, поддерживаемый интерфейс и единицу оплаты.
- Укажите ключ и адрес в клиенте. По инструкции Быстрый старт отправьте выбранной модели короткий запрос без конфиденциальных данных.
- Проверьте содержимое ответа и сведения об использовании. Найдите соответствующую запись в панели и сравните окончательный расход с применимым правилом тарификации. Сохраните идентификатор запроса для диагностики.
