Crusoe
NVIDIA 및 AMD GPU에서 모델 학습, 미세 조정, 서빙을 지원하는 AI 클라우드 인프라입니다.
Crusoe 소개
Crusoe는 머신러닝 모델을 학습하고 미세 조정하며 서빙하는 팀을 위해 구축된 AI 인프라 및 클라우드 컴퓨팅 플랫폼입니다. 이 플랫폼은 온디맨드 GPU 인스턴스와 관리형 Kubernetes 및 Slurm, 고처리량 스토리지, 서버리스 미세 조정, 관리형 추론을 결합합니다. 개발자는 NVIDIA 및 AMD 하드웨어를 선택하고 소프트웨어 스택을 직접 관리하거나, 관리형 서비스를 사용해 인프라 작업을 줄일 수 있습니다. 일부 GPU 모델에는 시간당 요금이 적용되며, 최신 가속기와 예약 용량은 영업팀의 맞춤형 견적이 필요합니다. 이러한 선택 범위는 실험용 워크로드와 지속적인 프로덕션 배포를 모두 지원하지만, 구매자는 도입 전에 GPU 사용 시간, 스토리지, 오케스트레이션 요구 사항을 산정해야 합니다. 데이터 파이프라인은 공유 디스크, 일반적인 수집 도구, Spark 또는 KubeRay 변환, 스냅샷, 백업을 지원하며 데이터 수신 및 송신 요금이 없습니다. 관리형 추론은 엄선된 모델이나 고객 소유 모델을 위한 고가용성 API 엔드포인트를 제공할 수 있습니다. Crusoe는 전문 컴퓨팅이 필요하고 간단한 고정 좌석제 소프트웨어 요금제를 구매하기보다 인프라 구성을 비교하는 데 익숙한 AI 팀에 가장 적합합니다.
기능
대규모 모델 학습
관리형 Kubernetes 또는 관리형 Slurm과 InfiniBand 네트워킹을 사용해 GPU 클러스터에서 분산 학습을 실행합니다.
관리형 모델 추론
엄선된 모델이나 고객이 제공한 모델을 관리형 고가용성 API 엔드포인트 뒤에 배포합니다.
AI 데이터 준비
공유 디스크와 분산 처리 도구를 사용해 대규모 데이터 세트를 수집, 정제, 변환 및 게시합니다.
장점
- 일부 H200 및 H100 인스턴스의 시간당 요금이 공개되어 있어 팀이 실험 비용을 산정하는 데 도움이 됩니다.
- 관리형 Kubernetes, Slurm, 추론 및 미세 조정을 통해 팀은 직접 운영할 인프라의 범위를 선택할 수 있습니다.
- NVIDIA 및 AMD 지원을 통해 구매자가 더 다양한 하드웨어 호환성 옵션을 선택할 수 있습니다.
단점
- 여러 최신 가속기와 용량 보장 옵션은 영업팀에 문의해야 하므로 즉시 확인할 수 있는 가격 투명성이 낮습니다.
- GPU, 스토리지 및 오케스트레이션의 사용량 기반 비용은 예측 가능한 좌석당 가격이 아니라 워크로드별 예산 책정을 요구합니다.
- 인프라 선택지가 광범위하므로 간단한 호스팅 API를 원하는 팀에는 구성 및 운영 결정이 늘어납니다.
요금제
NVIDIA H200 온디맨드
- 141GB H200 HGX GPU
- 시간당 사용량 요금
- 제한 없는 컴퓨팅
NVIDIA H100 온디맨드
- 80GB H100 HGX GPU
- 시간당 사용량 요금
- 제한 없는 컴퓨팅
예약 용량 및 일부 가속기
- 리소스 보장 옵션
- 예약 용량
- 맞춤형 하드웨어 및 배포 범위
* 가격 정보는 참고용입니다. 최신 안내는 Crusoe 공식 웹사이트를 확인하세요.