E

Experiential Labs

連接託管提供者、自有金鑰與 GPU 的開源 AI 閘道

freemium
最後更新 2026/9/7

關於 Experiential Labs

Experiential Labs 是一個開源 AI 閘道,將託管提供者、自有 API 金鑰和自有 GPU 置於同一個端點之後,並依提供者價格路由請求。官方頁面標示路由 token 0% 加價,閘道免費且開源;啟用快取後,重複 token 可享 90% 折扣。平台也支援透過同一個端點提供經流量微調且驗證過的模型服務,以及由管理員設定、並在每次請求中執行的支出上限。

適合人群

AI 應用程式開發者
模型平台團隊
GPU 基礎架構團隊
成本管理者

適合場景

透過同一個端點接入多家模型提供者

使用自有 API 金鑰呼叫模型

接入自有 GPU 推理

控制路由請求預算

功能特性

多來源接入

將託管提供者、自有 API 金鑰與自有 GPU 置於同一個端點之後。

路由零加價

路由 token 不加價,閘道本身免費且開源。

快取折扣

啟用後,重複 token 可享 90% 折扣。

流量微調模型

可將經流量微調且驗證過的模型接入同一個端點;需主動啟用。

優點

  • 統一端點整合託管提供者、自有金鑰和 GPU
  • 路由 token 0% 加價,閘道免費且開源
  • 重複 token 可享 90% 折扣

常見問題

官方頁面表示路由 token 不加價,閘道免費且開源;頁面也提到 hosted inference 與 Pro。
可將託管提供者、自有 API 金鑰和自有 GPU 置於同一個端點之後。

工具資訊

開發商Experiential Labs
釋出日期2026/9/7
定價模式freemium