Ollama
로컬 하드웨어에서 오픈 모델을 실행하고 동일한 CLI, API, 앱 및 통합 기능을 통해 더 큰 클라우드 모델도 이용할 수 있습니다.
Ollama 소개
Ollama는 로컬 하드웨어에서 오픈 모델을 실행하며, 필요할 때 동일한 워크플로를 더 큰 클라우드 호스팅 모델로 확장할 수 있습니다. 명령줄 인터페이스, API, 데스크톱 앱뿐 아니라 코딩 에이전트, 어시스턴트 및 편집기용 통합 기능을 제공합니다. 로컬 실행은 완전히 오프라인으로 유지할 수 있어 데이터를 사용자 컴퓨터에 보관해야 할 때 유용합니다. 클라우드 이용에는 계정이 필요하며 무료, Pro, Max 등급이 제공됩니다. Team 플랜은 출시 예정으로 표시되어 있습니다. 클라우드 사용량은 주로 고정된 토큰 할당량이 아닌 GPU 시간을 기준으로 하므로 더 큰 모델과 긴 요청일수록 한도를 더 빨리 소진합니다. 무료 플랜은 가벼운 클라우드 작업에 적합합니다. Pro는 더 큰 모델, 클라우드 모델 3개 동시 실행, 무료 플랜의 50배에 해당하는 클라우드 사용량을 제공합니다. Max는 동시 실행 수를 10개로 늘리고 Pro의 5배에 해당하는 사용량을 제공합니다. 따라서 Ollama는 로컬 제어를 중요하게 여기면서 때때로 데이터 센터 하드웨어가 필요한 개발자에게 적합합니다. 중앙 집중식 관리, SSO, 모델 제어 및 우선 지원은 출시 예정인 Team 플랜에 포함됩니다.
기능
로컬 모델 워크플로
클라우드 사용량을 소모하지 않고 자체 하드웨어에서 오픈 모델을 실행하여 오프라인 또는 데이터에 민감한 작업을 처리할 수 있습니다.
코딩 및 에이전트 자동화
Ollama를 터미널 코딩 에이전트와 어시스턴트에 연결하여 코드 편집, 조사 및 지속적인 에이전트 작업에 활용할 수 있습니다.
편집기 및 애플리케이션 통합
CLI와 API를 사용하거나 모델을 VS Code Chat 같은 도구 및 지원되는 개인용 어시스턴트에 연결할 수 있습니다.
장점
- 로컬 모델을 완전히 오프라인으로 실행하여 민감한 작업을 직접 제어하는 하드웨어에 보관할 수 있습니다.
- 무료 플랜의 가격은 $0이며 모든 클라우드 구독 등급에서 로컬 모델을 무제한으로 이용할 수 있습니다.
- CLI, API, 데스크톱 앱 및 다양한 커뮤니티 통합 기능이 여러 개발 워크플로를 지원합니다.
단점
- 클라우드 플랜에는 세션 및 주간 한도가 있으므로 지속적인 워크로드는 포함된 용량을 모두 소진할 수 있습니다.
- 월 $100인 Max 플랜은 클라우드 가속이 가끔만 필요한 사용자에게 상당한 비용입니다.
- 로컬 모델의 성능은 모델 크기, 아키텍처 및 자체 하드웨어 성능에 따라 달라집니다.
요금제
무료
- 자체 하드웨어에서 모델 실행
- 가벼운 사용량으로 클라우드 모델 이용
- CLI, API 및 데스크톱 앱 사용
- 공개 모델 무제한 이용
- 40,000+개의 커뮤니티 통합 기능
Pro
- 무료 플랜의 모든 기능
- 더 큰 클라우드 모델 이용
- 클라우드 모델 3개 동시 실행
- 무료 플랜보다 50배 많은 클라우드 사용량
- 비공개 모델 업로드 및 공유
Max
- Pro의 모든 기능
- 클라우드 모델 10개 동시 실행
- Pro보다 5배 많은 사용량
Team
- 팀 전체에서 사용량 공유
- 결제 및 관리 중앙화
- 통합 인증(SSO)
- 모델 접근 제어
- Windows 및 macOS용 MDM 설치 프로그램
- 우선 지원 및 전용 Slack 채널
* 가격 정보는 참고용입니다. 최신 안내는 Ollama 공식 웹사이트를 확인하세요.