TrueFoundry
Execute LLMs e agentes de IA com um AI Gateway empresarial, um MCP Gateway e um registro de prompts com controle de versões.
TrueFoundry é o nome atual do produto.
Sobre TrueFoundry
O TrueFoundry oferece uma camada operacional compartilhada para LLMs, modelos e agentes de IA. Seu AI Gateway e MCP Gateway cuidam do roteamento de tráfego, dos limites de taxa, da observabilidade e dos controles de conformidade. A plataforma se conecta ao Kubernetes, AWS, Azure, Google Cloud, MLflow, Grafana, TensorFlow, PyTorch, Hugging Face, Terraform, Streamlit e Gradio. O gerenciamento de prompts permite que as equipes mantenham modelos com controle de versões em um registro, adicionem variáveis e proteções, definam saídas estruturadas, configurem registros ou cache e controlem o acesso por meio das permissões do repositório. O plano Desenvolvedor custa $0 por mês e destina-se à criação de protótipos, a experimentos com fluxos de trabalho e a testes iniciais. Para implantações mais amplas, as equipes podem avaliar a plataforma de acordo com os recursos de gateway, prompts, infraestrutura e compatibilidade exigidos por seu modelo operacional.
Funcionalidades
Rotear tráfego de LLM
Envie o tráfego dos aplicativos por um AI Gateway com controles de roteamento, limites de taxa, observabilidade e comportamento de contingência.
Gerenciar prompts reutilizáveis
Crie e controle versões de modelos de prompts em repositórios e execute-os nos aplicativos por meio do gateway ou SDK.
Implantar cargas de trabalho de IA
Implante e gerencie modelos e agentes de IA enquanto os conecta à infraestrutura e às ferramentas já utilizadas pelas equipes de engenharia.
Vantagens
- A modalidade Desenvolvedor de $0 por mês reduz o custo da criação de protótipos e dos testes iniciais.
- AI Gateway e MCP Gateway centralizam o roteamento, os limites de taxa e a observabilidade para as equipes de operações.
- Permissões de repositório, controle de versões de prompts, proteções, cache e saídas estruturadas oferecem suporte a fluxos de trabalho controlados.
Limitações
- O plano Desenvolvedor de $0 é voltado a protótipos e testes iniciais, portanto as equipes devem avaliar se seu escopo atende à carga de trabalho pretendida.
- A ampla abrangência da plataforma exige mais decisões de configuração do que um editor de prompts independente.
- Equipes que não utilizam os ecossistemas listados de nuvem, Kubernetes e ferramentas de aprendizado de máquina devem verificar a compatibilidade antes da adoção.
Planos de preços
Desenvolvedor
- Criado para exploradores e desenvolvedores em estágio inicial
- Oferece suporte à criação de protótipos e a testes de fluxos de trabalho de IA
- Comece sem uma cobrança mensal pela plataforma
* As informações de preços são apenas indicativas. Consulte o anúncio mais recente no site oficial de TrueFoundry.