Auriko
Un plan de contrôle pour unifier l’accès aux modèles, le routage intelligent et la gestion des coûts de l’IA
À propos de Auriko
Auriko est un plan de contrôle de l’IA qui réunit une passerelle de modèles, le routage intelligent, l’observabilité et la FinOps au sein d’une seule plateforme. Il connecte différents modèles et fournisseurs via une API unifiée, fournit une intégration compatible avec OpenAI tout en conservant les fonctionnalités propres aux fournisseurs, sélectionne un fournisseur moins coûteux pour chaque requête, orchestre BYOK et les clés de plateforme, configure le basculement automatique et définit des limites de dépenses et des alertes au niveau de l’espace de travail ou de la clé API.
Idéal pour
Meilleurs cas d'utilisation
Unifier l’accès à plusieurs modèles et fournisseurs
Optimiser le coût des appels de modèles par requête
Configurer la redondance et le basculement pour les requêtes
Gérer les budgets d’espace de travail ou de clé API
Fonctionnalités
Accès API unifié
Accédez à différents modèles et fournisseurs via une API unique avec une intégration compatible avec OpenAI.
Routage intelligent et optimisation des coûts
Combine la tarification des fournisseurs et la mise en cache des prompts pour acheminer chaque requête vers le fournisseur le moins coûteux.
Orchestration des clés et basculement automatique
Prend en charge BYOK, les clés de plateforme ou les deux, et fournit de la redondance pour les requêtes.
Contrôle du budget et alertes
Définissez des limites de dépenses et des alertes au niveau de l’espace de travail ou de la clé API.
Avantages
- Fournit une API unifiée et une intégration compatible avec OpenAI
- Peut utiliser la tarification des fournisseurs et la mise en cache des prompts pour le routage
- Prend en charge BYOK, les clés de plateforme et le basculement automatique
- Prend en charge les limites de dépenses et les alertes au niveau de l’espace de travail ou de la clé API