TrueFoundry
エンタープライズ向け AI Gateway、MCP Gateway、バージョン管理されたプロンプトレジストリを使用して、LLM と AI エージェントを運用できます。
TrueFoundry は現在の製品名です。
TrueFoundryについて
TrueFoundry は、LLM、モデル、AI エージェント向けの共通運用レイヤーを提供します。AI Gateway と MCP Gateway が、トラフィックのルーティング、レート制限、可観測性、コンプライアンス管理を担います。Kubernetes、AWS、Azure、Google Cloud、MLflow、Grafana、TensorFlow、PyTorch、Hugging Face、Terraform、Streamlit、Gradio と連携できます。プロンプト管理機能では、チームがバージョン管理されたテンプレートをレジストリに保存し、変数やガードレールの追加、構造化出力の定義、ログやキャッシュの設定、リポジトリ権限によるアクセス管理を行えます。開発者プランは月額 $0 で、プロトタイプ作成、ワークフローの実験、初期テストを想定しています。より広範に導入する場合、チームは自社の運用モデルに必要なゲートウェイ、プロンプト、インフラストラクチャ、互換性の各機能に基づいて、このプラットフォームを評価できます。
機能
LLM トラフィックのルーティング
AI Gateway を介してアプリケーションのトラフィックを送信し、ルーティング、レート制限、可観測性、フォールバック動作を制御します。
再利用可能なプロンプトの管理
リポジトリでプロンプトテンプレートを作成してバージョン管理し、ゲートウェイまたは SDK を介してアプリケーションから実行します。
AI ワークロードのデプロイ
モデルと AI エージェントをデプロイして管理しながら、エンジニアリングチームがすでに利用しているインフラストラクチャやツールと連携します。
長所
- 月額 $0 の開発者向けプランにより、プロトタイプ作成と初期テストのコストを抑えられます。
- AI Gateway と MCP Gateway により、運用チームはルーティング、レート制限、可観測性を一元管理できます。
- リポジトリ権限、プロンプトのバージョン管理、ガードレール、キャッシュ、構造化出力により、統制されたワークフローを支援します。
短所
- $0 の開発者プランはプロトタイプと初期テストを対象としているため、チームはその範囲が想定するワークロードに合うか評価する必要があります。
- 機能範囲が広いため、単体のプロンプトエディタよりも多くの設定判断が必要です。
- 掲載されているクラウド、Kubernetes、機械学習ツールのエコシステムを利用していないチームは、導入前に互換性を確認する必要があります。
料金プラン
開発者
- 調査を始める人や初期段階の開発者向け
- AI ワークフローのプロトタイプ作成とテストに対応
- 月額プラットフォーム料金なしで利用開始
* 料金情報は参考用です。最新情報はTrueFoundry公式サイトのお知らせをご確認ください。