Liquid AI
온디바이스, 엣지, 프라이빗 인프라 및 클라우드 배포를 위한 연산 효율적인 다운로드형 파운데이션 모델입니다.
Liquid AI 소개
Liquid AI는 모바일 기기, 엣지 하드웨어, 프라이빗 인프라 및 클라우드 서버를 위한 연산 효율적인 파운데이션 모델을 개발합니다. 개방형 LFM 제품군은 텍스트 및 비전 언어 워크로드를 지원하며 다운로드, 실행 및 미세 조정이 가능합니다. 연간 매출이 $10 백만 달러 미만인 기업은 LFM Open License에 따라 상업적으로 무료 사용할 수 있습니다. 이 기준을 초과하면 엔터프라이즈 라이선스가 필요하며, 가격은 배포 규모와 지원 요구 사항에 따라 달라집니다. 이 라이선스에는 copyleft 요구 사항이 없으므로 미세 조정 모델을 비공개로 유지할 수 있습니다. Ollama는 간편한 로컬 서빙을 지원하고, SGLang은 CUDA GPU에서 OpenAI 호환 API를 통해 지연 시간이 짧고 동시 처리량이 높은 서빙을 제공합니다. Liquid AI는 모델 크기, 로컬 제어 또는 엣지 실행을 중요하게 여기는 팀에 적합합니다. 서빙 스택을 선택하기 전에 하드웨어 요구 사항과 런타임 호환성을 면밀히 검토해야 합니다.
기능
온디바이스 AI
휴대전화, 노트북, 차량 및 기타 리소스 제약이 있는 기기에서 소형 텍스트 또는 비전 언어 모델을 실행합니다.
비공개 모델 맞춤화
특화된 워크플로에 맞게 개방형 LFM을 미세 조정하면서 결과 모델을 비공개로 유지합니다.
프로덕션 모델 서빙
SGLang을 사용하여 CUDA GPU에서 OpenAI 호환 API로 LFM2.5를 제공하거나 Ollama로 더 간단하게 로컬 배포합니다.
장점
- 기업의 연간 매출이 $10 백만 달러 미만인 동안에는 모델의 상업적 사용 비용이 $0입니다.
- 모델을 모바일, 엣지, 온프레미스 또는 클라우드 인프라에서 실행할 수 있어 팀이 배포 방식을 제어할 수 있습니다.
- LFM Open License에는 copyleft 요구 사항이 없으므로 비공개 미세 조정 모델을 계속 비공개로 유지할 수 있습니다.
단점
- 연간 매출이 $10 백만 달러를 초과하는 기업은 맞춤형 엔터프라이즈 라이선스를 협상해야 합니다.
- Liquid AI는 자체 호스팅 API를 제공하지 않으므로 팀에서 직접 호스팅하거나 제3자 서비스를 이용해야 할 수 있습니다.
- 일부 서빙 방식에는 특정 제약이 있습니다. SGLang에는 CUDA GPU가 필요하며 LFM MoE 모델에는 호환되는 Ollama 버전이 필요합니다.
요금제
무료 플랜
- 모든 개방형 LFM 다운로드, 실행 및 미세 조정
- 연간 매출이 $10M 미만인 기업의 상업적 사용
- 모바일, 엣지 또는 온프레미스 인프라에 배포
- copyleft 요구 사항 없이 미세 조정 모델을 비공개로 유지
엔터프라이즈 플랜
- 연간 매출 $10M 기준을 초과하는 경우의 상업용 라이선스
- 맞춤형 아키텍처 및 최적화
- OEM 및 온프레미스 배포 지원
- 전담 지원 및 서비스 수준 협약
* 가격 정보는 참고용입니다. 최신 안내는 Liquid AI 공식 웹사이트를 확인하세요.