Normaliser les prix
Consultez le catalogue Rock API actuel. Le guide de facturation distingue prix de base, coefficient de consommation du groupe et coût de recharge du solde. Aucune remise universelle ne s’applique à tous les modèles ou appels.
Un calcul hypothétique
Ces valeurs servent uniquement à illustrer le calcul ; elles ne constituent ni un devis Rock API ni un comparatif fournisseur. Supposons une entrée ordinaire à 2 USD par million de tokens, une sortie à 6 USD et un coefficient de groupe de 1,2. Avec un million de tokens en entrée et 200 000 en sortie, sans cache ni autre poste :Comparer les options sur la même base
Pour l’accès direct, consultez les tarifs officiels OpenAI, Anthropic ou Gemini API pour le modèle et les conditions requis. Pour une passerelle, examinez aussi la route choisie et les conditions du service. OpenRouter documente le cache de prompts pour les fournisseurs et modèles compatibles. LiteLLM décrit un proxy auto-hébergé : intégrez infrastructure et maintenance. Pour Portkey, vérifiez le déploiement et l’offre envisagés. Aucun de ces éléments ne prouve quel service sera le moins cher pour votre trafic.Réduire la consommation sans dégrader la qualité
- Préparez un jeu d’acceptation couvrant tâches représentatives, langues, schémas et cas difficiles.
- Essayez un modèle plus petit sur les tâches courantes et gardez une voie d’escalade en cas d’échec.
- Réduisez le contexte répété et demandez la longueur de sortie utile au produit. Revérifiez l’exactitude après toute modification du prompt.
- Lorsque le modèle le permet, testez des préfixes stables et mesurez séparément lectures et écritures du cache. Ne présumez pas un succès systématique.
- Limitez les nouvelles tentatives et consignez leur cause. Mesurez la tâche entière, pas seulement le dernier appel réussi.
- Comparez coût réglé par résultat accepté, latence et relecture humaine avant d’augmenter le trafic.
