
Manifest
Routage LLM open source pour les agents, avec solutions de repli, plafonds de dépenses, tarification cloud et possibilité d’auto-héberger la pile avec Docker.
À propos de Manifest
Manifest est un routeur LLM open source destiné aux agents et applications d’IA. Il regroupe les comptes d’abonnement, les clés API facturées à l’usage, les modèles locaux et les points de terminaison personnalisés derrière un seul point de terminaison compatible avec OpenAI et Anthropic. Vous pouvez attribuer un modèle par défaut ou acheminer les requêtes selon leur en-tête, puis configurer des solutions de repli en cas de panne d’un fournisseur ou de limitation du débit. Les plafonds de dépenses par agent et le tableau de bord indiquent le modèle choisi, l’utilisation des jetons, le coût et les horodatages. Manifest Cloud commence par une offre à $0 comprenant 10,000 requêtes acheminées par mois, sept jours de conservation des données du tableau de bord, un nombre illimité d’agents, Auto-fix et des alertes budgétaires. Pro coûte $19 par mois, supprime la limite de requêtes acheminées et conserve les données du tableau de bord pendant 365 jours. Enterprise ajoute des postes, la gestion des équipes, SSO ou SAML, des journaux d’audit, une durée de conservation personnalisée, un SLA de disponibilité et des options de conformité. L’auto-hébergement avec Docker est disponible lorsqu’une équipe doit exécuter la pile sur sa propre infrastructure. Les frais des fournisseurs restent distincts, l’offre gratuite impose un plafond mensuel de requêtes et Manifest indique que Pro ne convient pas aux équipes.
Fonctionnalités
Routage des fournisseurs pour les agents
Utilisez un seul point de terminaison et sélectionnez un modèle par défaut ou un niveau de routage défini par l’en-tête de la requête.
Basculement entre fournisseurs
Transférez les requêtes vers des modèles de repli en cas de défaillance d’un fournisseur ou du modèle sélectionné.
Contrôle et examen des dépenses
Définissez des limites par agent et consultez le modèle choisi, l’utilisation des jetons, le coût et les horodatages.
Avantages
- L’offre cloud à $0 comprend 10,000 requêtes acheminées par mois et un nombre illimité d’agents.
- Les points de terminaison compatibles avec OpenAI et Anthropic réduisent les modifications d’intégration entre les clients pris en charge.
- L’auto-hébergement avec Docker offre aux équipes soucieuses de leur infrastructure une alternative au service cloud hébergé.
Limites
- L’offre gratuite limite le routage à 10,000 requêtes par mois et conserve les données du tableau de bord pendant sept jours.
- L’offre Pro à $19 est explicitement présentée comme inadaptée aux équipes, ce qui réserve les fonctions d’équipe à Enterprise.
- Les frais d’API ou d’abonnement des fournisseurs restent distincts : le routeur ne rend donc pas l’utilisation des modèles elle-même gratuite.
Formules tarifaires
Gratuite
- Nombre illimité d’agents
- 10,000 requêtes acheminées par mois
- Tous les fournisseurs
- Fournisseurs par abonnement
- Conservation du tableau de bord pendant 7 jours
- Auto-fix
- Alertes et notifications budgétaires
- Assistance communautaire via Discord
Pro
- Tout le contenu de l’offre gratuite
- Requêtes acheminées illimitées
- Conservation du tableau de bord pendant 365 jours
- Assistance client de base
Entreprise
- Plusieurs postes et gestion des équipes
- SSO et SAML
- Journaux d’audit
- Conservation personnalisée
- SLA de disponibilité
- SOC 2 Type II et ISO 27001
- HIPAA et accords personnalisés
* Les informations tarifaires sont données à titre indicatif. Consultez les dernières annonces sur le site officiel de Manifest.