Ollama
Execute modelos abertos em hardware local e acesse modelos maiores na nuvem pelas mesmas CLI, API, aplicações e integrações.
Sobre Ollama
O Ollama executa modelos abertos em hardware local e, quando necessário, estende o mesmo fluxo de trabalho a modelos maiores hospedados na nuvem. Ele funciona por meio de uma interface de linha de comando, API, aplicações para computador e integrações para agentes de programação, assistentes e editores. A execução local pode permanecer totalmente offline, o que é útil quando os dados precisam ficar no computador do usuário. O acesso à nuvem exige uma conta e oferece os planos Gratuito, Pro e Max; um plano Equipe está marcado como disponível em breve. O consumo na nuvem baseia-se principalmente no tempo de GPU, em vez de uma franquia fixa de tokens. Por isso, modelos maiores e solicitações mais longas consomem os limites mais rapidamente. O plano Gratuito atende a trabalhos leves na nuvem. O Pro acrescenta modelos maiores, três modelos simultâneos na nuvem e 50 vezes o uso na nuvem do plano Gratuito. O Max eleva a simultaneidade para dez e oferece cinco vezes o uso do Pro. Portanto, o Ollama é adequado para desenvolvedores que valorizam o controle local, mas às vezes precisam de hardware de data center. Administração centralizada, SSO, controles de modelos e suporte prioritário farão parte da futura oferta Equipe.
Funcionalidades
Fluxos de trabalho com modelos locais
Execute modelos abertos em seu próprio hardware para tarefas offline ou com dados sensíveis sem consumir o uso na nuvem.
Automação de programação e agentes
Conecte o Ollama a agentes de programação e assistentes no terminal para editar código, pesquisar e executar tarefas contínuas de agentes.
Integração com editores e aplicações
Use a CLI e a API ou conecte modelos a ferramentas como VS Code Chat e a assistentes pessoais compatíveis.
Vantagens
- Os modelos locais podem ser executados totalmente offline, mantendo trabalhos sensíveis no hardware que você controla.
- O plano Gratuito custa $0, e o uso de modelos locais permanece ilimitado em todos os níveis de assinatura da nuvem.
- A CLI, a API, as aplicações para computador e muitas integrações da comunidade oferecem suporte a vários fluxos de desenvolvimento.
Limitações
- Os planos na nuvem usam limites por sessão e semanais, portanto cargas contínuas podem esgotar a capacidade incluída.
- O plano Max de $100 mensais representa um custo considerável para usuários que só precisam ocasionalmente de aceleração na nuvem.
- O desempenho dos modelos locais depende do tamanho e da arquitetura do modelo e dos recursos do seu próprio hardware.
Planos de preços
Gratuito
- Executar modelos em seu próprio hardware
- Acessar modelos na nuvem com uso leve
- Usar a CLI, a API e as aplicações para computador
- Modelos públicos ilimitados
- 40,000+ integrações da comunidade
Pro
- Tudo do plano Gratuito
- Acesso a modelos maiores na nuvem
- Execução simultânea de 3 modelos na nuvem
- 50 vezes mais uso na nuvem que o plano Gratuito
- Carregar e compartilhar modelos privados
Max
- Tudo do plano Pro
- Execução simultânea de 10 modelos na nuvem
- 5 vezes mais uso que o Pro
Equipe
- Uso compartilhado por toda a equipe
- Cobrança e administração centralizadas
- Login único (SSO)
- Controles de acesso aos modelos
- Instalador MDM para Windows e macOS
- Suporte prioritário e canal dedicado no Slack
* As informações de preços são apenas indicativas. Consulte o anúncio mais recente no site oficial de Ollama.