Manifest
Roteamento LLM de código aberto para agentes, com alternativas de contingência, limites de gastos, preços na nuvem e opção de auto-hospedar a estrutura com Docker.
Sobre Manifest
Manifest é um roteador LLM de código aberto para agentes e aplicativos de IA. Ele reúne contas de assinatura, chaves de API cobradas por uso, modelos locais e endpoints personalizados atrás de um único endpoint compatível com OpenAI e Anthropic. Você pode atribuir um modelo padrão ou rotear solicitações por cabeçalho e depois configurar alternativas de contingência para falhas de provedores e limites de taxa. Os tetos de gastos por agente e o painel mostram a escolha do modelo, o uso de tokens, o custo e os registros de data e hora. O Manifest Cloud começa com um plano de $0 que inclui 10,000 solicitações roteadas por mês, sete dias de retenção dos dados do painel, agentes ilimitados, Auto-fix e alertas de orçamento. O Pro custa $19 por mês, remove o limite de solicitações roteadas e mantém os dados do painel por 365 dias. O Enterprise acrescenta licenças, gerenciamento de equipes, SSO ou SAML, logs de auditoria, retenção personalizada, SLA de disponibilidade e opções de conformidade. A auto-hospedagem com Docker está disponível quando uma equipe precisa executar a estrutura em sua própria infraestrutura. As cobranças dos provedores permanecem separadas, o plano gratuito tem um teto mensal de solicitações e a Manifest descreve o Pro como inadequado para equipes.
Funcionalidades
Roteamento de provedores para agentes
Use um único endpoint e selecione um modelo padrão ou uma camada de roteamento definida pelo cabeçalho da solicitação.
Failover de provedor
Transfira as solicitações para modelos alternativos quando um provedor ou o modelo selecionado falhar.
Controle e análise de gastos
Defina limites por agente e consulte a escolha do modelo, o uso de tokens, o custo e os registros de data e hora.
Vantagens
- O plano de nuvem de $0 inclui 10,000 solicitações roteadas por mês e agentes ilimitados.
- Os endpoints compatíveis com OpenAI e Anthropic reduzem as alterações de integração entre clientes compatíveis.
- A auto-hospedagem com Docker oferece às equipes preocupadas com a infraestrutura uma alternativa ao serviço de nuvem hospedado.
Limitações
- O plano gratuito limita o roteamento a 10,000 solicitações por mês e mantém os dados do painel por sete dias.
- O plano Pro de $19 é explicitamente descrito como inadequado para equipes, direcionando os recursos de equipe para o Enterprise.
- As cobranças de API ou assinatura dos provedores permanecem separadas, portanto o roteador não torna gratuito o uso dos modelos em si.
Planos de preços
Gratuito
- Agentes ilimitados
- 10,000 solicitações roteadas por mês
- Todos os provedores
- Provedores por assinatura
- Retenção do painel por 7 dias
- Auto-fix
- Alertas e notificações de orçamento
- Suporte da comunidade pelo Discord
Pro
- Tudo do plano gratuito
- Solicitações roteadas ilimitadas
- Retenção do painel por 365 dias
- Suporte básico ao cliente
Empresarial
- Várias licenças e gerenciamento de equipes
- SSO e SAML
- Logs de auditoria
- Retenção personalizada
- SLA de disponibilidade
- SOC 2 Type II e ISO 27001
- HIPAA e acordos personalizados
* As informações de preços são apenas indicativas. Consulte o anúncio mais recente no site oficial de Manifest.