A
ARBR
AI 请求路由、治理与观测的开源自托管网关
free
最后更新 2026/9/7
关于 ARBR
ARBR 提供兼容 OpenAI 的统一端点，连接各模型提供商，并依据规则、成本护栏、难度感知选择与回退机制为请求选模。在请求路径中，它支持预算、速率限制、输出护栏、提示注入检查和 kill switch；同时按提供商、模型、应用、工作流、团队和用户观测支出、性能与可靠性，并可在本地仪表盘查询或导出到 OpenTelemetry。
适合人群
AI 应用开发团队
平台工程团队
需要自托管部署的组织
适合场景
统一接入多个模型提供商
按请求成本和难度选择模型
在请求路径执行预算与安全规则
按团队和用户分析调用
功能特性
智能模型选择
按规则、成本护栏、难度感知选择与回退机制为每次请求选择模型。
请求路径治理
在请求路径中执行预算、速率限制、输出护栏、提示注入检查和 kill switch。
调用观测
按提供商、模型、应用、工作流、团队和用户观测支出、性能与可靠性。
开放式集成
提供 OpenAI 兼容端点、嵌入、实时语音代理，以及 JavaScript 和 Python SDK。
优点
- 提供 OpenAI 兼容端点，并支持自托管和提供商中立。
- 预算、速率限制和安全检查可在请求路径中执行。
- 支持按多种业务维度观测支出、性能与可靠性，并导出到 OpenTelemetry。
缺点
- 面向微调的数据集功能尚未交付。
常见问题
可通过一个 OpenAI 兼容端点接入，并使用 JavaScript 或 Python SDK。
支持流式聊天补全、OpenAI 兼容嵌入、实时语音代理，以及 JavaScript 和 Python SDK。
工具信息
开发商ARBR
发布日期2026/9/7
定价模式free