先统一价格口径
模型详情查看 Rock API 实时目录。按价格与计费区分模型基础价、调用分组倍率和充值到账成本。不能对所有模型或请求承诺统一优惠。
一个假设计费例子
以下数字仅用于演示算术,不是真实报价,也不是供应商价格对比。假设普通输入每百万 token 为 2 美元,输出为 6 美元,适用分组倍率为 1.2;用量为 100 万输入、20 万输出,没有缓存和其他收费项:在同一基础上比较方案
直连服务可查 OpenAI 官方价格、Anthropic 官方价格或 Gemini API 官方价格,以实际模型和条件为准。网关还应核对选定路由和服务条款。 OpenRouter 文档说明受支持供应商及模型的提示词缓存。LiteLLM 文档提供自托管代理说明,预算中要包含基础设施与维护。Portkey则需确认准备使用的部署和套餐。这些事实本身都不能证明某个服务对你的流量最便宜。减少用量时守住质量
- 建立包含代表性任务、语言、输出结构和困难样本的验收集。
- 将常规任务交给较小模型试验,保留失败时升级到其他模型的路径。
- 精简重复上下文,并请求产品真正需要的输出长度;调整提示后复测正确性。
- 在支持的条件下测试稳定前缀,分别测量缓存读取与写入,不假设所有请求都会命中。
- 限制重试次数,记录触发原因,统计整个任务而不只是最后成功那次调用。
- 扩大流量前比较每个合格结果的结算成本、延迟和人工审核量。
