Cerebrium

Cerebrium

用於部署及自動擴展即時 AI 工作負載的無伺服器 CPU 與 GPU 基礎架構。

paid
最後更新 2026/8/28

關於 Cerebrium

Cerebrium 是無伺服器 AI 基礎架構,可在 CPU 與 GPU 運算資源上部署語音代理、大型語言模型、影像與影片管線,以及其他容器化工作負載。團隊可使用 Python 應用程式或自訂 Dockerfile,選擇 vLLM、SGLang 或 TensorRT 等框架,並在無須維運 Kubernetes 的情況下擴展工作負載。此平台專為即時正式環境服務而設計,主打不到一秒的冷啟動、隨需自動擴展、全球區域,以及按秒計費的運算資源,讓突發流量不必仰賴永久預留的容量。語音團隊可將語音轉文字、LLM 與文字轉語音階段部署在同一位置,以減少網路跳轉;媒體與 LLM 團隊則可選用新一代 NVIDIA 和 AMD 加速器。採用此平台仍需由工程團隊負責容器、健康狀態端點、執行環境設定、模型行為與使用成本。免費 Hobby 工作區適合有限度的評估;Standard 與客製化 Enterprise 方案則可擴充應用程式、席次、保留期限、並行處理、支援及合規選項。Cerebrium 也記載了 SOC 2 Type I、HIPAA、GDPR 與 ISO 合規實務,相關報告可透過其信任中心取得。

功能特性

即時語音代理

將語音轉文字、LLM 與文字轉語音服務部署在同一位置,實現低延遲語音互動。

大型語言模型服務

執行 vLLM、SGLang、TensorRT 或自訂推論堆疊,並在全球區域間自動擴展 GPU。

影像與影片管線

在隨需的 NVIDIA 或 AMD GPU 基礎架構上,擴展突發型生成與處理工作負載。

自訂容器部署

透過自訂 Dockerfile 發布現有 Python 服務或編譯式應用程式,並明確設定健康狀態與就緒端點。

優點

  • 按秒計費的運算資源可避免為閒置容量付費,適合流量不均的工作負載。
  • 自訂 Dockerfile 支援可攜式 Python 或編譯式服務,不會將團隊限制在固定的模型執行環境中。
  • 全球自動擴展及部署在同一位置的 CPU 與 GPU 工作負載,可支援對延遲敏感的語音、LLM 和媒體應用程式。
  • 已公開的 SOC 2 Type I、HIPAA、GDPR 與 ISO 合規實務,為審查提供具體的信任基準。

缺點

  • 採用按用量計費的運算模式,最終費用會取決於工作負載量及所選的 CPU 或 GPU 資源。
  • 自訂容器需要團隊設定連接埠、啟動命令、健康檢查、相依套件及應用程式行為。
  • Hobby 僅限三個已部署應用程式、三個席次、七天記錄保留期限,且 CPU 與 GPU 並行處理能力較低。
  • Standard 將工作區限制為十個席次、30 天記錄保留期限、1000 個 CPU 並行工作及 30 個 GPU 並行工作;如需更高額度則必須採用 Enterprise。

價格方案

Hobby

Free
  • 不限專案數量
  • 3 個已部署應用程式
  • 3 個席次
  • 7 天記錄保留期限
  • CPU 並行工作上限 500
  • GPU 並行工作上限 5
  • 社群支援

Standard

$100
  • 不限專案數量
  • 不限已部署應用程式數量
  • 10 個席次
  • 30 天記錄保留期限
  • CPU 並行工作上限 1000
  • GPU 並行工作上限 30
  • 私人 Slack 頻道

Enterprise

Custom
  • 用量折扣
  • 不限 GPU 並行工作數量
  • 專屬 Slack 支援
  • 全程協助的導入服務
  • 機器學習工程服務
  • 不限記錄保留期限

* 價格資訊僅供參考,請以Cerebrium官網最新公告為準。

常見問題

Cerebrium 可部署及擴展即時 AI 應用程式,包括語音代理、LLM 推論服務、影像與影片管線,以及自訂容器化工作負載。
有。Hobby 方案免費提供不限數量的專案、最多三個已部署應用程式、三個席次、七天記錄保留期限,以及有限的 CPU 與 GPU 並行處理能力。
可以。自訂 Dockerfile 可封裝 Python 或編譯式應用程式,但必須公開一個連接埠,並定義啟動服務所需的命令。
Cerebrium 表示其符合 SOC 2 Type I、HIPAA、GDPR 與 ISO 規範,並引導客戶前往其信任中心取得合規報告。

工具資訊

開發商Cerebrium
釋出日期2026/4/5
定價模式paid