
Galileo
생성형 AI 애플리케이션과 에이전트를 평가 및 디버깅하고, 프로덕션에서 모니터링하며, 조정된 평가를 런타임 가드레일로 재사용합니다.
Galileo 소개
Galileo는 생성형 AI 애플리케이션과 에이전트를 구축하는 팀을 위한 AI 관측성 및 평가 플랫폼입니다. 개발 데이터 세트, 프로덕션 추적 기록, 평가기 결과, 검토자 피드백을 하나의 워크플로에 통합하여 팀이 실패 패턴을 찾고 무엇을 수정할지 결정하도록 돕습니다. RAG, 에이전트, 안전성 및 보안을 위한 20개 이상의 사전 구축 평가와 함께 도메인별 요구 사항을 위한 맞춤형 평가기를 지원합니다. 검토자는 점수를 수정하고 Autotune으로 평가기 프롬프트를 개정할 수 있습니다. Galileo는 제시된 사례에서 다섯 번의 수정으로 평가기 정확도가 최대 17% 향상될 수 있다고 보고합니다. 최적화된 평가는 Luna 모델로 증류하여 프로덕션 가드레일로 사용할 수 있으며, 회사 측은 이 방식으로 전체 트래픽을 96% 낮은 비용에 모니터링할 수 있다고 설명합니다. 무료 플랜은 실험에 실용적이며 매월 5,000개의 추적 기록, 무제한 사용자, 무제한 맞춤형 평가를 제공합니다. Pro는 연간 청구 시 월 $100부터 시작하며 허용량이 50,000개의 추적 기록으로 늘어나지만, 사용량 기반 확장에 따라 가격이 상승할 수 있습니다. Enterprise 구매자는 호스팅형, VPC 또는 온프레미스 배포와 더 강력한 액세스 제어, 전담 지원, 무제한 추적 기록을 요청할 수 있습니다. Galileo는 평가, 디버깅, 모니터링, 가드레일을 하나의 플랫폼에서 원하는 팀에 적합하지만, 유료 등급을 선택하기 전에 추적 기록 규모, 배포 요구 사항, 지원 요구 사항을 확인해야 합니다.
기능
RAG 및 에이전트 평가
개발 데이터 세트와 프로덕션 추적 기록을 대상으로 기본 제공 및 맞춤형 평가를 실행하여 응답 품질, 안전성, 에이전트 동작을 측정합니다.
프로덕션 장애 디버깅
추적 기록과 평가기 신호를 분석하여 배포된 AI 시스템의 반복적인 실패 유형, 숨겨진 패턴, 가능한 수정 방법을 식별합니다.
조정된 가드레일 배포
검토자의 수정 사항을 사용해 평가기를 조정한 다음, 최적화된 평가를 Luna 모델로 증류하여 지연 시간이 짧은 프로덕션 모니터링에 사용합니다.
장점
- $0 Free 플랜에는 매월 5,000개의 추적 기록, 무제한 사용자, 무제한 맞춤형 평가가 포함되어 팀의 실험 비용을 줄여 줍니다.
- 기본 제공 및 맞춤형 평가, 추적 분석, 검토자 피드백, 가드레일을 하나의 워크플로에서 공유하므로 팀이 발견한 내용을 프로덕션에 반영할 수 있습니다.
- Enterprise는 SSO와 RBAC를 갖춘 호스팅형, VPC 및 온프레미스 배포를 지원하여 규제 대상 팀에 더 많은 호환성 옵션을 제공합니다.
단점
- Pro 플랜은 연간 청구 시 월 $100부터 시작하며, 최종 비용은 추적 기록 규모에 따라 증가합니다.
- Free는 매월 5,000개의 추적 기록으로 제한되어 지속적인 프로덕션 모니터링에는 제약이 될 수 있습니다.
- Enterprise 가격, 배포 계획, 가장 폭넓은 지원 옵션은 셀프서비스 결제 대신 영업팀과 상담해야 합니다.
요금제
Free
- 월 5,000개 추적 기록
- 무제한 사용자
- 무제한 맞춤형 평가
Pro
- 월 50,000개 추적 기록
- 표준 RBAC
- 고급 분석 및 인사이트
- 전담 Slack 지원
Enterprise
- 무제한 추적 기록
- 맞춤형 속도 제한
- 호스팅형, VPC 또는 온프레미스 배포
- RBAC 및 SSO
- 실시간 가드레일
- 연중무휴 Slack, 이메일 또는 전화 지원
* 가격 정보는 참고용입니다. 최신 안내는 Galileo 공식 웹사이트를 확인하세요.