JarvisLabs
按用量付費的 NVIDIA GPU 與 CPU 雲端服務，提供託管範本、具根權限的虛擬機器及按分鐘計費。
關於 JarvisLabs
JarvisLabs 提供 GPU 與 CPU 運算資源租用服務，適用於 AI 訓練、推論、筆記本及其他加速工作負載。其 GPU 產品涵蓋 NVIDIA H200、H100、RTX Pro 6000 Blackwell、A100、A30 與 L4 硬體，並提供一般用途的 CPU 虛擬機器。你可以選擇搭載 JupyterLab、VS Code、API 端點或 SSH 的託管範本，也可以使用具根權限的虛擬機器，自訂核心、驅動程式、容器、協調系統、常駐程式與 CI 執行器。GPU 設定可從一張擴充至八張顯示卡。隨需執行個體按分鐘計費；列出的 GPU 費率為每個 GPU 小時 $0.41 至 $3.99。儲存空間每月每 GB 收費 $0.10，同區域資料傳出免費。暫停執行個體後即停止收取運算費用，但儲存費用仍會持續產生。預留容量、叢集及超過 25 個 GPU 的部署需要向銷售團隊詢價。JarvisLabs 適合受益於快速佈建與短計費週期的工作負載。需要權衡之處包括暫停期間仍持續產生的儲存費用、部分產品的區域限制，以及不提供免費試用。
功能特性
LLM 訓練與微調
在 H200、H100、A100、A30 或 L4 硬體上執行單 GPU 或多 GPU 訓練與微調工作，最多可設定八個 GPU。
以筆記本進行實驗
啟動搭載 JupyterLab 或 VS Code、持久性儲存空間及預先設定 CUDA 堆疊的託管容器，進行反覆的深度學習工作。
自訂 GPU 基礎架構
當工作負載需要自訂驅動程式、核心、Docker 或 Kubernetes、常駐程式或自架 CI 執行器時，可使用具根權限 SSH 的隨需虛擬機器。
推論與 API 端點
在 A30 或 L4 執行個體上部署低成本推論工作負載，或將託管範本公開為 API 端點，無須管理基礎作業系統。
優點
- 按分鐘計費的隨需模式，可限制僅執行不到一小時之實驗的運算費用。
- 託管範本會處理作業系統、驅動程式、CUDA 與容器，並在停止和啟動之間保留儲存資料。
- 具根權限的虛擬機器支援自訂核心、驅動程式、Docker、Kubernetes、常駐程式及自架 CI 執行器。
缺點
- 暫停的執行個體仍會以每月每 GB $0.10 收取儲存費用，因此閒置專案並非零成本。
- CPU 虛擬機器僅列於印度（諾伊達）區域，可能限制延遲或資料所在地需求。
- 不提供免費試用；使用者必須先為帳戶儲值，才能在服務上測試實際工作負載。
價格方案
H200 SXM
- 141 GB VRAM
- 368 GB RAM
- 28 個 vCPU
- 1、2、4 或 8 個 GPU
H100 SXM
- 80 GB VRAM
- 200 GB RAM
- 16 個 vCPU
- 1、2、4 或 8 個 GPU
RTX Pro 6000 Blackwell
- 96 GB VRAM
- 160 GB RAM
- 28 個 vCPU
- 1、2、4 或 8 個 GPU
A100 80GB
- 80 GB VRAM
- 112 GB RAM
- 16 個 vCPU
- 1、2、4 或 8 個 GPU
A100 40GB
- 40 GB VRAM
- 112 GB RAM
- 16 個 vCPU
- 1、2、4 或 8 個 GPU
A30
- 24 GB VRAM
- 112 GB RAM
- 16 個 vCPU
- 1、2、4 或 8 個 GPU
L4
- 24 GB VRAM
- 124 GB RAM
- 32 個 vCPU
- 1、2、4 或 8 個 GPU
CPU 虛擬機器 2 vCPU
- 2 個 vCPU
- 8 GB RAM
- 隨需使用
- 印度（諾伊達）區域
CPU 虛擬機器 4 vCPU
- 4 個 vCPU
- 16 GB RAM
- 隨需使用
- 印度（諾伊達）區域
CPU 虛擬機器 8 vCPU
- 8 個 vCPU
- 32 GB RAM
- 隨需使用
- 印度（諾伊達）區域
CPU 虛擬機器 16 vCPU
- 16 個 vCPU
- 64 GB RAM
- 隨需使用
- 印度（諾伊達）區域
CPU 虛擬機器 32 vCPU
- 32 個 vCPU
- 128 GB RAM
- 隨需使用
- 印度（諾伊達）區域
* 價格資訊僅供參考，請以JarvisLabs官網最新公告為準。