TrueFoundry
Ejecuta LLM y agentes de IA con una AI Gateway empresarial, una MCP Gateway y un registro de instrucciones con control de versiones.
TrueFoundry es el nombre vigente del producto.
Acerca de TrueFoundry
TrueFoundry proporciona una capa operativa compartida para LLM, modelos y agentes de IA. Su AI Gateway y MCP Gateway gestionan el enrutamiento del tráfico, los límites de velocidad, la observabilidad y los controles de cumplimiento. Se conecta con Kubernetes, AWS, Azure, Google Cloud, MLflow, Grafana, TensorFlow, PyTorch, Hugging Face, Terraform, Streamlit y Gradio. La gestión de instrucciones permite que los equipos conserven plantillas versionadas en un registro, añadan variables y barreras de protección, definan salidas estructuradas, configuren registros o almacenamiento en caché y administren el acceso mediante permisos del repositorio. El plan Desarrollador cuesta $0 al mes y está pensado para prototipos, experimentos con flujos de trabajo y pruebas iniciales. Para implementaciones más amplias, los equipos pueden evaluar la plataforma según las capacidades de puerta de enlace, instrucciones, infraestructura y compatibilidad que requiera su modelo operativo.
Funciones
Enrutar tráfico de LLM
Envía el tráfico de las aplicaciones a través de una AI Gateway con controles de enrutamiento, límites de velocidad, observabilidad y comportamiento alternativo.
Gestionar instrucciones reutilizables
Crea y versiona plantillas de instrucciones en repositorios y ejecútalas desde las aplicaciones mediante la puerta de enlace o el SDK.
Implementar cargas de trabajo de IA
Implementa y gestiona modelos y agentes de IA mientras los conectas con la infraestructura y las herramientas que ya utilizan los equipos de ingeniería.
Ventajas
- El nivel Desarrollador de $0 al mes reduce el coste de crear prototipos y realizar pruebas iniciales.
- AI Gateway y MCP Gateway centralizan el enrutamiento, los límites de velocidad y la observabilidad para los equipos de operaciones.
- Los permisos del repositorio, el versionado de instrucciones, las barreras de protección, el almacenamiento en caché y las salidas estructuradas respaldan flujos de trabajo controlados.
Limitaciones
- El plan Desarrollador de $0 está orientado a prototipos y pruebas iniciales, por lo que los equipos deben evaluar si su alcance se ajusta a la carga de trabajo prevista.
- La amplia superficie de la plataforma requiere más decisiones de configuración que un editor de instrucciones independiente.
- Los equipos ajenos a los ecosistemas indicados de nube, Kubernetes y herramientas de aprendizaje automático deben verificar la compatibilidad antes de adoptarla.
Planes de precios
Desarrollador
- Creado para exploradores y desarrolladores que están empezando
- Admite la creación de prototipos y las pruebas de flujos de trabajo de IA
- Empieza sin un cargo mensual por la plataforma
* La información de precios es solo orientativa. Consulta el anuncio más reciente en el sitio web oficial de TrueFoundry.