Manifest
Open-Source-LLM-Routing für Agenten mit Ausweichmodellen, Ausgabenlimits, Cloud-Preisen und der Möglichkeit, den Stack mit Docker selbst zu hosten.
Über Manifest
Manifest ist ein Open-Source-LLM-Router für KI-Agenten und Anwendungen. Er bündelt Abonnementkonten, nutzungsbasierte API-Schlüssel, lokale Modelle und benutzerdefinierte Endpunkte hinter einem einzigen OpenAI- und Anthropic-kompatiblen Endpunkt. Sie können ein Standardmodell zuweisen oder Anfragen anhand eines Headers weiterleiten und anschließend Ausweichmodelle für Anbieterausfälle und Ratenbegrenzungen konfigurieren. Ausgabenobergrenzen pro Agent und das Dashboard zeigen Modellauswahl, Token-Nutzung, Kosten und Zeitstempel. Manifest Cloud beginnt mit einem Tarif für $0, der monatlich 10,000 weitergeleitete Anfragen, sieben Tage Dashboard-Aufbewahrung, unbegrenzt viele Agenten, Auto-fix und Budgetwarnungen umfasst. Pro kostet $19 pro Monat, hebt das Limit für weitergeleitete Anfragen auf und bewahrt Dashboard-Daten 365 Tage lang auf. Enterprise ergänzt Benutzerplätze, Teamverwaltung, SSO oder SAML, Audit-Protokolle, benutzerdefinierte Aufbewahrung, ein Verfügbarkeits-SLA und Compliance-Optionen. Selbsthosting mit Docker ist verfügbar, wenn ein Team den Stack in seiner eigenen Infrastruktur betreiben muss. Anbietergebühren fallen separat an, der kostenlose Tarif hat ein monatliches Anfragelimit und Manifest bezeichnet Pro als ungeeignet für Teams.
Funktionen
Anbieter-Routing für Agenten
Verwenden Sie einen Endpunkt und wählen Sie ein Standardmodell oder eine über den Anfrage-Header festgelegte Routing-Stufe.
Anbieter-Failover
Leiten Sie Anfragen an Ausweichmodelle weiter, wenn ein Anbieter oder das ausgewählte Modell ausfällt.
Ausgabenkontrolle und -prüfung
Legen Sie Limits pro Agent fest und sehen Sie Modellauswahl, Token-Nutzung, Kosten und Zeitstempel ein.
Vorteile
- Der Cloud-Tarif für $0 umfasst monatlich 10,000 weitergeleitete Anfragen und unbegrenzt viele Agenten.
- OpenAI- und Anthropic-kompatible Endpunkte verringern Integrationsänderungen zwischen unterstützten Clients.
- Das Selbsthosting mit Docker bietet infrastrukturorientierten Teams eine Alternative zum gehosteten Cloud-Dienst.
Nachteile
- Der kostenlose Tarif begrenzt das Routing auf monatlich 10,000 Anfragen und bewahrt Dashboard-Daten sieben Tage lang auf.
- Der Pro-Tarif für $19 wird ausdrücklich als ungeeignet für Teams beschrieben, sodass Teamfunktionen Enterprise vorbehalten sind.
- API- oder Abonnementgebühren der Anbieter fallen separat an; der Router macht die Modellnutzung selbst daher nicht kostenlos.
Preispläne
Kostenlos
- Unbegrenzt viele Agenten
- 10,000 weitergeleitete Anfragen pro Monat
- Alle Anbieter
- Abonnementanbieter
- Dashboard-Aufbewahrung für 7 Tage
- Auto-fix
- Budgetwarnungen und Benachrichtigungen
- Community-Support über Discord
Pro
- Alle Funktionen des kostenlosen Tarifs
- Unbegrenzt viele weitergeleitete Anfragen
- Dashboard-Aufbewahrung für 365 Tage
- Grundlegender Kundensupport
Enterprise
- Mehrere Benutzerplätze und Teamverwaltung
- SSO und SAML
- Audit-Protokolle
- Benutzerdefinierte Aufbewahrung
- Verfügbarkeits-SLA
- SOC 2 Type II und ISO 27001
- HIPAA und individuelle Vereinbarungen
* Die Preisangaben dienen nur zur Orientierung. Bitte beachten Sie die aktuellen Informationen auf der offiziellen Website von Manifest.