A
ARBR
AI 請求路由、治理與可觀測性的開放原始碼自託管閘道
free
最後更新 2026/9/7
關於 ARBR
ARBR 提供相容 OpenAI 的統一端點，連接各模型提供者，並依據規則、成本護欄、難度感知選擇與回退機制為請求選擇模型。在請求路徑中，它支援預算、速率限制、輸出護欄、提示注入檢查和 kill switch；同時按提供者、模型、應用程式、工作流程、團隊和使用者觀測支出、效能與可靠性，並可在本機儀表板查詢或匯出到 OpenTelemetry。
適合人群
AI 應用程式開發團隊
平台工程團隊
需要自託管部署的組織
適合場景
統一接入多個模型提供者
按請求成本和難度選擇模型
在請求路徑執行預算與安全規則
按團隊和使用者分析呼叫
功能特性
智慧模型選擇
按規則、成本護欄、難度感知選擇與回退機制為每次請求選擇模型。
請求路徑治理
在請求路徑中執行預算、速率限制、輸出護欄、提示注入檢查和 kill switch。
呼叫可觀測性
按提供者、模型、應用程式、工作流程、團隊和使用者觀測支出、效能與可靠性。
開放式整合
提供 OpenAI 相容端點、嵌入、即時語音代理，以及 JavaScript 和 Python SDK。
優點
- 提供 OpenAI 相容端點，並支援自託管和提供者中立。
- 可在請求路徑中執行預算、速率限制和安全檢查。
- 支援按多種業務維度觀測支出、效能與可靠性，並匯出到 OpenTelemetry。
缺點
- 面向微調的資料集功能尚未交付。
常見問題
可透過單一 OpenAI 相容端點接入，並使用 JavaScript 或 Python SDK。
支援串流聊天補全、OpenAI 相容嵌入、即時語音代理，以及 JavaScript 和 Python SDK。
工具資訊
開發商ARBR
釋出日期2026/9/7
定價模式free