S

Soup CLI

모델 후학습, 평가 및 릴리스 게이트를 위한 통합 CLI

free
최종 업데이트 2026. 9. 10.

Soup CLI 소개

Soup CLI는 후학습 과정을 하나의 명령줄 도구로 통합합니다. 학습 전에 데이터를 검사하고, 규칙에 따라 방법을 선택해 설정을 생성하며, 자체 데이터에서 평가를 파생하고, 저장할 때마다 게이트를 적용하고, 실행 중 보상 해킹을 스스로 수정합니다. 23가지 방법, 163개 레시피, 17가지 양자화 형식을 지원하며, 동결된 기본 모델을 CPU 메모리 또는 NVMe에서 GPU 메모리로 레이어 단위 스트리밍하고 4-bit로 양자화할 수 있습니다. soup eval은 SHA가 고정된 평가 스위트를 생성하고, soup ship은 작업 점수는 올랐지만 일반 지식이 손상된 모델을 거부합니다.

적합한 사용자

모델 후학습 엔지니어
VRAM이 적은 GPU를 사용하는 개발자
오프라인 평가가 필요한 팀
기존 학습 설정을 마이그레이션하는 사용자

적합한 활용 장면

학습 전 데이터 검사 및 설정 생성

메모리가 적은 장치에서 모델 미세 조정

자체 데이터로 오프라인 평가 구축

출시 전 모델의 일반 지식 검증

기능

데이터 사전 검사 및 설정 생성

학습 전에 데이터를 검사하고, 규칙에 따라 방법을 선택하며, 학습 설정을 생성합니다.

레이어 스트리밍 및 양자화

동결된 기본 모델을 CPU 메모리 또는 NVMe에서 디코더 레이어 단위로 스트리밍하고 4-bit 양자화를 지원합니다.

자체 데이터 평가 파생

자체 데이터에서 SHA가 고정된 평가 스위트를 파생하고 저장할 때마다 게이트를 적용합니다.

모델 릴리스 게이트

soup ship은 8개의 오프라인 스위트로 점수를 매기고, 작업 점수는 올랐지만 일반 지식이 손상된 모델을 거부합니다.

장점

  • 무료이며 Apache-2.0 라이선스
  • 가입과 신용카드 없이 오프라인 실행 지원
  • 다양한 방법, 레시피 및 양자화 형식 지원
  • 릴리스 게이트 증거 제출 가능

단점

  • 레이어 스트리밍 참조 구현의 레이어 읽기 횟수는 약 1.52배입니다
  • 선호도 손실에 대해 측정된 tok/s 데이터가 없습니다

요금제

Free

$0장기
  • Apache-2.0 라이선스
  • 오프라인 실행
  • 가입 불필요
  • 신용카드 불필요

* 가격 정보는 참고용입니다. 최신 안내는 Soup CLI 공식 웹사이트를 확인하세요.

자주 묻는 질문

공식 페이지에는 DPO, ORPO, SimPO, KTO를 포함한 23가지 방법이 나와 있습니다.
soup eval은 자체 데이터에서 SHA가 고정된 평가 스위트를 파생합니다. soup ship은 8개의 오프라인 스위트로 점수를 매기고, 작업 점수는 올랐지만 일반 지식이 손상된 모델을 거부합니다.

도구 정보

개발사Soup CLI
출시일2026. 9. 10.
가격free