
Crusoe
NVIDIAおよびAMD GPU上でのモデルのトレーニング、ファインチューニング、提供に対応するAIクラウドインフラストラクチャ。
Crusoeについて
Crusoeは、機械学習モデルのトレーニング、ファインチューニング、提供を行うチーム向けに構築されたAIインフラストラクチャ兼クラウドコンピューティングプラットフォームです。オンデマンドGPUインスタンスに、マネージドKubernetesとSlurm、高スループットストレージ、サーバーレスのファインチューニング、マネージド推論を組み合わせています。開発者はNVIDIAとAMDのハードウェアを選択し、ソフトウェアスタックを自ら管理することも、マネージドサービスを利用してインフラ作業を減らすこともできます。一部のGPUモデルには時間単位の料金が設定されていますが、新しいアクセラレーターや予約容量については個別の営業見積もりが必要です。この幅広い選択肢は、実験的なワークロードと継続的な本番デプロイの両方に対応しますが、導入前にGPUの使用時間、ストレージ、オーケストレーションの要件を見積もる必要があります。データパイプラインでは、共有ディスク、一般的な取り込みツール、SparkまたはKubeRayによる変換、スナップショット、バックアップに対応し、データの受信・送信料金はかかりません。マネージド推論では、選定済みモデルや顧客所有モデル用の高可用性APIエンドポイントを公開できます。Crusoeは、特化型コンピューティングを必要とし、シンプルな固定席数のソフトウェアプランを購入するよりもインフラ構成を比較検討したいAIチームに最適です。
機能
大規模モデルのトレーニング
マネージドKubernetesまたはマネージドSlurmとInfiniBandネットワークを利用し、GPUクラスター上で分散トレーニングを実行します。
マネージドモデル推論
選定済みモデルまたは顧客提供モデルを、マネージド型の高可用性APIエンドポイントの背後にデプロイします。
AIデータの準備
共有ディスクと分散処理ツールを使用して、大規模なデータセットの取り込み、クリーニング、変換、公開を行います。
長所
- 一部のH200およびH100インスタンスでは時間単位の料金が公開されているため、チームが実験コストを見積もりやすくなります。
- マネージドKubernetes、Slurm、推論、ファインチューニングにより、チームは自ら運用するインフラの範囲を選べます。
- NVIDIAとAMDのサポートにより、購入者が選べるハードウェア互換性の選択肢が広がります。
短所
- 複数の新しいアクセラレーターと容量保証オプションでは営業への問い合わせが必要なため、すぐに把握できる価格の透明性が低下します。
- GPU、ストレージ、オーケストレーションの従量課金では、予測可能な席数単位の価格ではなく、ワークロード単位の予算策定が必要です。
- インフラの選択肢が多いため、シンプルなホステッドAPIを求めるチームには構成や運用に関する判断が増えます。
料金プラン
NVIDIA H200 オンデマンド
- 141GB H200 HGX GPU
- 時間単位の従量課金
- スロットリングなしのコンピューティング
NVIDIA H100 オンデマンド
- 80GB H100 HGX GPU
- 時間単位の従量課金
- スロットリングなしのコンピューティング
予約容量および対象アクセラレーター
- リソース保証オプション
- 予約容量
- カスタムハードウェアとデプロイ範囲
* 料金情報は参考用です。最新情報はCrusoe公式サイトのお知らせをご確認ください。