TrueFoundry
엔터프라이즈 AI Gateway, MCP Gateway 및 버전 관리형 프롬프트 레지스트리로 LLM과 AI 에이전트를 운영합니다.
TrueFoundry는 현재 사용 중인 제품명입니다.
TrueFoundry 소개
TrueFoundry는 LLM, 모델 및 AI 에이전트를 위한 공유 운영 계층을 제공합니다. AI Gateway와 MCP Gateway는 트래픽 라우팅, 속도 제한, 관측 가능성 및 규정 준수 제어를 처리합니다. Kubernetes, AWS, Azure, Google Cloud, MLflow, Grafana, TensorFlow, PyTorch, Hugging Face, Terraform, Streamlit 및 Gradio와 연동됩니다. 프롬프트 관리 기능을 통해 팀은 버전이 관리되는 템플릿을 레지스트리에 보관하고, 변수와 가드레일을 추가하며, 구조화된 출력을 정의하고, 로그 또는 캐싱을 구성하며, 저장소 권한으로 액세스를 관리할 수 있습니다. 개발자 요금제는 월 $0이며 프로토타입 제작, 워크플로 실험 및 초기 테스트를 위한 것입니다. 더 넓은 범위로 배포하려는 팀은 운영 모델에 필요한 게이트웨이, 프롬프트, 인프라 및 호환성 기능을 기준으로 플랫폼을 평가할 수 있습니다.
기능
LLM 트래픽 라우팅
AI Gateway를 통해 애플리케이션 트래픽을 전송하고 라우팅, 속도 제한, 관측 가능성 및 대체 동작을 제어합니다.
재사용 가능한 프롬프트 관리
저장소에서 프롬프트 템플릿을 생성하고 버전을 관리한 다음, 게이트웨이 또는 SDK를 통해 애플리케이션에서 실행합니다.
AI 워크로드 배포
엔지니어링 팀이 이미 사용하는 인프라 및 도구와 연동하면서 모델과 AI 에이전트를 배포하고 관리합니다.
장점
- 월 $0의 개발자 등급으로 프로토타입 제작과 초기 테스트 비용을 줄일 수 있습니다.
- AI Gateway와 MCP Gateway는 운영 팀을 위해 라우팅, 속도 제한 및 관측 가능성을 중앙화합니다.
- 저장소 권한, 프롬프트 버전 관리, 가드레일, 캐싱 및 구조화된 출력으로 통제된 워크플로를 지원합니다.
단점
- $0 개발자 요금제는 프로토타입과 초기 테스트를 대상으로 하므로 팀은 해당 범위가 예정된 워크로드에 적합한지 평가해야 합니다.
- 플랫폼의 기능 범위가 넓어 독립형 프롬프트 편집기보다 더 많은 설정 결정이 필요합니다.
- 명시된 클라우드, Kubernetes 및 머신러닝 도구 생태계를 사용하지 않는 팀은 도입 전에 호환성을 확인해야 합니다.
요금제
개발자
- 탐색 사용자와 초기 개발자를 위해 설계
- AI 워크플로의 프로토타입 제작과 테스트 지원
- 월별 플랫폼 요금 없이 시작 가능
* 가격 정보는 참고용입니다. 최신 안내는 TrueFoundry 공식 웹사이트를 확인하세요.