Составить список по требованиям
Быстрый старт OpenRouter описывает подключение API. Документация LiteLLM охватывает SDK и самостоятельно размещаемый прокси с виртуальными ключами и учётом затрат. Обзор Portkey описывает шлюз и средства видимости. Проверяйте выбранную редакцию и конфигурацию, не распространяя возможности одной установки на все варианты.
Сравнить оплату при одинаковых условиях
Сопоставляйте одну версию модели, одинаковое соотношение входа и выхода, поведение кеша и валюту. Добавьте применимые комиссии пополнения или платформы, собственную инфраструктуру и обслуживание. Читайте актуальные условия вместо предположений о фиксированной наценке или скидке. Для Rock API начните с текущего каталога и руководства по биллингу. Базовая ставка, коэффициент группы, стоимость пополнения и историческое списание — разные сведения. Уточните, включён ли коэффициент в показанную цену. Единой экономии для каждой модели и каждого запроса нет.Проверить кеш без ответа только «да» или «нет»
OpenRouter прямо документирует кеширование запросов для поддерживаемых поставщиков и моделей. Поэтому нельзя считать его полностью отсутствующим. Для любого кандидата проверьте требования к префиксу, запись и чтение, срок действия, маршрутизацию к поставщику и отчётность об использовании. Кеш префикса у поставщика и выдача сохранённого ответа шлюзом решают разные задачи. Проверьте свежесть данных и приватность. Повторяющиеся и уникальные запросы оценивайте отдельно, чтобы не строить бюджет на чрезмерно оптимистичной доле попаданий.Спланировать обратимый переход
- Перечислите используемые интерфейсы, ID моделей, инструменты, схемы, заголовки, тайм-ауты и поля использования.
- Проверьте кандидатов по этому списку: совместимость клиента не доказывает поддержку каждого параметра.
- Выделите отдельные ключи и ограниченный бюджет. Повторите типовые обезличенные задания и оцените правильность вместе с задержкой.
- Испытайте недоступную модель, ограничения, неправильный вывод и обрыв потока. Выясните, кто выполняет повторы и как резервный маршрут меняет стоимость или условия приватности.
- Перенесите небольшую долю трафика, сверьте завершённые записи использования и сохраните прежний маршрут для отката.
