OpenRouter ou Together AI : distinguer routage, connexion directe et facturation avant de changer d’API de modèles
Pour changer de fournisseur et disposer de replis, OpenRouter mérite davantage d’être testé. Si les modèles Together ou les ressources dédiées sont déjà choisis, la connexion directe clarifie le parcours de service. Vérifiez ensemble effet des paramètres, périmètre des replis, frais BYOK et coût des réplicas dédiés, pas seulement le tarif des tokens.
Une application utilise déjà un modèle de conversation et veut désormais choisir des modèles différents pour résumer, répondre aux questions et appeler des outils. OpenRouter convient aux équipes voulant conserver plusieurs fournisseurs d’inférence, un accès unifié et un point de repli commun. Together AI convient davantage à celles ayant choisi ses modèles pris en charge, souhaitant gérer directement leur compte d’inférence ou acheter un déploiement dédié. Dans les deux cas, il faut valider les requêtes concrètes. « Compatible avec l’API OpenAI » ne signifie pas un comportement identique.
Les deux ne sont pas non plus des catalogues disjoints : Together est lui-même un fournisseur d’OpenRouter. Un même modèle peut être routé vers Together par OpenRouter ou appelé directement par l’application. Le choix porte sur qui sélectionne l’amont, comment fixer le parcours d’exécution et à quel niveau la facture se forme. Cette analyse s’appuie sur les informations officielles vérifiées le 10 novembre 2026, sans tests de latence, disponibilité ou qualité des réponses.
Après l’adresse, vérifier l’effet réel des paramètres
Supposons que l’application ait besoin de réponses en streaming, d’appels d’outils et d’un format fixe. La validation de migration doit utiliser les mêmes entrées représentatives pour vérifier ces comportements et les champs d’utilisation, plutôt que déployer largement après une seule réponse réussie. Confirmez séparément identifiants de modèles, versions et endpoints des deux côtés, pas seulement leurs noms affichés.
La documentation de compatibilité Together permet au client OpenAI d’utiliser une clé Together et https://api.together.ai/v1. Elle précise toutefois que service_tier, store, metadata et prediction sont acceptés mais ignorés. seed est suivi au mieux, sans déterminisme garanti entre réplicas, versions ou conditions de charge. Si l’application dépend de l’effet réel de ces paramètres, la connexion directe exige elle aussi une adaptation. Une réponse réussie ne prouve pas que la contrainte s’applique.
OpenRouter ajoute une couche de choix du fournisseur amont. Sa documentation de routage des fournisseurs propose require_parameters: true pour exclure ceux qui ne prennent pas en charge les paramètres transmis. Cela transforme cette prise en charge en condition de routage, sans garantir que la génération respecte le besoin métier. Gardez la validation stricte dans l’application et traitez un filtrage sans route comme un résultat à gérer, sans assouplir discrètement les contraintes pour rétablir le taux de succès.
Fixer le fournisseur réduit les possibilités de repli automatique
La même documentation OpenRouter distingue préférences et restrictions : order fixe la priorité, only limite les fournisseurs autorisés et allow_fallbacks est activé par défaut. Si seul un fournisseur validé est autorisé, limitez explicitement les candidats et définissez les règles de repli. Un nom de fournisseur peut aussi couvrir plusieurs variantes d’endpoints. Testez l’endpoint choisi, plutôt que noter uniquement la marque.
Une connexion directe à Together fixe le fournisseur externe, mais ne donne pas au serverless du matériel exclusif ni une latence constante. La présentation serverless indique qu’une forte charge peut déclencher des limites de débit et que les temps de réponse varient selon le modèle et la demande. Pour contrôler directement le matériel réservé, évaluez séparément un dedicated endpoint. Fixer le fournisseur commercial et fixer les ressources de déploiement sont deux décisions d’achat différentes.
Par exemple, une fonction de questions-réponses peut accepter un modèle de secours validé, tandis que les appels d’outils doivent garder les mêmes conventions de paramètres. Le repli entre modèles OpenRouter permet d’essayer successivement d’autres modèles selon une liste models. Ce n’est pas la même chose que changer de fournisseur pour le même modèle. Maintenez des listes distinctes de fournisseurs et de modèles substituables, et vérifiez le champ model de la réponse finale. Un modèle de secours non validé métier ne doit pas entrer dans le repli de production simplement parce qu’il est appelable.
Distinguer limitation de débit, paiement et échec métier dans les nouvelles tentatives
Together recommande de réduire le débit et répartir les pointes pour 429, de réessayer après une courte attente pour 503, et d’utiliser un délai exponentiel. Ses explications des erreurs attribuent 402 à un crédit épuisé ou à un plafond de dépenses atteint. Réessayer indéfiniment ne résout pas ces problèmes de paiement. L’application a besoin d’alertes et d’un échec explicite.
OpenRouter peut gérer les replis fournisseur ou modèle dans le périmètre configuré, réduisant l’orchestration de secours à écrire dans l’application. Mais ces replis consomment du temps d’attente, et une réponse obtenue peut encore échouer à la validation métier. Les deux chemins doivent avoir un délai total, une limite de tentatives et une protection contre les actions externes répétées par les appels d’outils. Ce sont des conditions de validation proposées, pas un exercice de panne déjà réalisé.
Séparer inférence, frais de plateforme et réplicas en fonctionnement
La page tarifaire OpenRouter indique une inférence facturée au prix catalogue du fournisseur et des frais de plateforme à l’achat de crédits : 5,5 % pour Standard et 8 % pour Business. Des prix de tokens identiques ne signifient donc pas une dépense de recharge identique. En comptabilité, séparez consommation d’inférence, frais de recharge et taxes applicables. Une sortie de trésorerie pour des crédits ne signifie pas non plus qu’ils ont tous été consommés dans le mois.
BYOK suit encore un autre circuit. La documentation BYOK OpenRouter et les tarifs indiquent que Standard et Business incluent chaque mois 25 000 dollars américains de coût d’inférence au prix catalogue exonérés de frais BYOK. Au-delà, les frais sont de 5 % du coût catalogue OpenRouter du même modèle chez le même fournisseur, prélevés sur le solde OpenRouter. Le quota Enterprise se négocie séparément. L’amont facture toujours directement l’inférence. Ce quota ne supprime pas sa facture et ne se mesure pas au nombre de requêtes.
Par exemple, pour 30 000 dollars américains d’inférence BYOK au prix catalogue dans un mois avec le quota de 25 000 dollars, les 5 000 dollars excédentaires génèrent 250 dollars de frais BYOK. L’exemple exclut la facture d’inférence amont, les frais d’achat des crédits servant à payer ces frais et les taxes. Il ne signifie pas non plus qu’une remise contractuelle amont modifie la base catalogue de ce calcul. En cas d’échec BYOK, vérifiez aussi si le passage aux endpoints partagés d’OpenRouter est autorisé, pour éviter un circuit de paiement différent de celui prévu.
Le serverless texte appelé directement chez Together est facturé à l’usage. La tarification d’inférence dédiée facture chaque réplica à la minute de fonctionnement, même sans requêtes. Ne comparez donc pas directement un tarif GPU horaire dedicated au prix serverless par million de tokens. Mesurez d’abord le nombre de réplicas nécessaire, leur durée de fonctionnement et leur proportion d’inactivité sous le trafic métier, puis calculez l’intérêt. Cet article ne suppose pas qu’un déploiement dédié est naturellement moins cher.
Fixer le parcours d’exécution avant de comparer le coût par résultat conforme
Si l’équipe change souvent de modèles et de fournisseurs et accepte de maintenir un ensemble de routes approuvées, commencez par OpenRouter. Si le trafic principal utilise déjà des modèles Together et nécessite un accès direct à l’utilisation, au support ou aux ressources dédiées, commencez par Together. On peut conserver les deux parcours, mais en enregistrant séparément « OpenRouter vers Together » et « Together direct », sinon analyse des incidents et comparaison des coûts se mélangent.
Avant la production, utilisez le même lot d’entrées pour vérifier identité du modèle et du fournisseur, paramètres indispensables, format après repli, attente totale et champs de facturation. Prenez les résultats validés métier comme dénominateur du coût, tout en enregistrant consommation des échecs et des nouvelles tentatives. Vous comparerez alors le coût réel du service nécessaire, pas deux adresses d’API apparemment interchangeables.
À propos de cet article :Cet article s’appuie sur des informations publiques et sert de référence pour vous aider à choisir vos outils. Les fonctionnalités, les tarifs et les politiques associées peuvent évoluer à tout moment ; veuillez consulter les informations officielles les plus récentes.
Source originale :openrouter.ai