A
ARBR
AI 요청 라우팅, 거버넌스 및 관측성을 위한 오픈 소스 셀프 호스팅 게이트웨이
free
최종 업데이트 2026. 9. 7.
ARBR 소개
ARBR은 모델 제공업체를 연결하는 OpenAI 호환 통합 엔드포인트를 제공하며, 규칙, 비용 가드레일, 난이도 인식 선택 및 폴백 메커니즘에 따라 요청의 모델을 선택합니다. 요청 경로에서 예산, 속도 제한, 출력 가드레일, 프롬프트 인젝션 검사 및 kill switch를 지원하며, 제공업체, 모델, 애플리케이션, 워크플로, 팀 및 사용자별로 지출, 성능 및 안정성을 관찰하고 로컬 대시보드에서 조회하거나 OpenTelemetry로 내보낼 수 있습니다.
적합한 사용자
AI 애플리케이션 개발팀
플랫폼 엔지니어링팀
셀프 호스팅 배포가 필요한 조직
적합한 활용 장면
여러 모델 제공업체에 대한 액세스를 통합
요청 비용과 난이도에 따라 모델을 선택
요청 경로에서 예산 및 보안 규칙을 적용
팀과 사용자별로 호출을 분석
기능
지능형 모델 선택
규칙, 비용 가드레일, 난이도 인식 선택 및 폴백 메커니즘으로 각 요청의 모델을 선택합니다.
요청 경로 거버넌스
요청 경로에서 예산, 속도 제한, 출력 가드레일, 프롬프트 인젝션 검사 및 kill switch를 적용합니다.
호출 관측성
제공업체, 모델, 애플리케이션, 워크플로, 팀 및 사용자별로 지출, 성능 및 안정성을 관찰합니다.
개방형 통합
OpenAI 호환 엔드포인트, 임베딩, 실시간 음성 에이전트 및 JavaScript와 Python SDK를 제공합니다.
장점
- OpenAI 호환 엔드포인트를 제공하고 셀프 호스팅 및 제공업체 중립성을 지원합니다.
- 요청 경로에서 예산, 속도 제한 및 보안 검사를 적용할 수 있습니다.
- 여러 비즈니스 차원에서 지출, 성능 및 안정성을 관찰하고 OpenTelemetry로 내보낼 수 있습니다.
단점
- 미세 조정용 데이터셋 기능은 아직 제공되지 않습니다.
자주 묻는 질문
단일 OpenAI 호환 엔드포인트를 통해 연결하고 JavaScript 또는 Python SDK를 사용할 수 있습니다.
스트리밍 채팅 완성, OpenAI 호환 임베딩, 실시간 음성 에이전트, JavaScript 및 Python SDK를 지원합니다.
도구 정보
개발사ARBR
출시일2026. 9. 7.
가격free