根据需求建立候选清单
OpenRouter 快速开始说明其 API 接入。LiteLLM 文档涵盖 SDK、自托管代理、虚拟密钥和成本跟踪。Portkey 产品概览说明网关与可观测功能。核对具体版本和部署,不要假设所有方案都具备相同控制能力。
在相同条件下比较账单
对比相同模型版本、输入输出比例、缓存行为和币种。计入适用的平台费用、资金成本,以及自己的基础设施和维护投入。查看各服务当前条款,不能先假设固定加价或折扣。 Rock API 从实时目录和价格与计费开始核验。模型基础价、分组倍率、充值成本与历史结算是不同证据;展示价已包含分组倍率时不要再次相乘。不存在覆盖所有模型及请求的统一节省承诺。缓存不能只填“有”或“无”
OpenRouter 明确提供适用于受支持供应商和模型的提示词缓存,不能把它写成全面不支持缓存。任何候选都应核对提示前缀要求、读写费用、有效期、供应商路由和用量报告。 供应商提示词缓存与网关直接返回缓存响应解决的问题不同。使用前检查内容新鲜度和隐私要求,将重复提示与独立提示分开测试,避免用过于乐观的命中率做预算。制定可回退的迁移流程
- 盘点实际使用的接口、模型 ID、工具、输出结构、请求头、超时和用量字段。
- 逐项核对候选服务;客户端格式兼容不代表全部参数兼容。
- 使用独立凭据和限定测试预算,回放脱敏后的代表性请求,同时评估正确性与延迟。
- 测试模型不可用、限流、格式错误和流式中断;确认谁负责重试,备用路由是否改变隐私条件或成本。
- 先迁移小部分流量,核对已完成用量记录,保留原路由用于回退。
