要件から候補を絞る
OpenRouter のクイックスタートは API 接続を説明しています。LiteLLM 文書には SDK、自前運用のプロキシ、仮想キー、コスト追跡が記載されています。Portkey の概要はゲートウェイと可視化機能を説明しています。すべての構成が同じ機能を持つと考えず、利用する版と設定を確認してください。
条件をそろえて請求を比較する
同じモデルバージョン、入出力比率、キャッシュ挙動、通貨で比較します。該当する入金・プラットフォーム費用に加え、自社のインフラと保守費も含めます。一定の上乗せや割引を仮定せず、各サービスの現行条件を読んでください。 Rock API は現在のカタログと料金・請求ガイドから確認します。基本単価、グループ倍率、チャージ費用、過去の精算は別の情報です。表示価格に倍率が含まれている場合は再適用しません。全モデル・全リクエストで一定の節約が得られるわけではありません。キャッシュを単純な有無で判断しない
OpenRouter は対応プロバイダーとモデルのプロンプトキャッシュを明示しています。サービス全体を「キャッシュなし」と評価するのは不正確です。どの候補でも、接頭辞の条件、書き込みと読み取り、期限、上流経路、使用量報告を確認します。 プロバイダーのプロンプトキャッシュと、ゲートウェイが保存済み回答を返す仕組みは用途が異なります。鮮度とプライバシーの要件を確認し、繰り返しプロンプトと一度きりの要求を分けて試験してください。楽観的なヒット率を予算の前提にしないことが大切です。切り戻せる移行を計画する
- 実際に利用するエンドポイント、モデル ID、ツール、出力形式、ヘッダー、タイムアウト、使用量フィールドを列挙します。
- 候補ごとに対応を確認します。クライアント形式の互換性だけでは全パラメータの互換性は分かりません。
- 専用の認証情報と上限付き予算を用意し、秘匿情報を除いた代表的な要求で正確さと遅延を測ります。
- モデル利用不可、制限、形式エラー、ストリーム中断を試験します。再試行の担当と、代替経路による費用・プライバシー条件の変化も確認します。
- 少量のトラフィックから移行し、完了した使用量記録を照合します。旧経路を切り戻し用に残します。