Ollama

Ollama ejecuta modelos abiertos en hardware local y, cuando es necesario, extiende el mismo flujo de trabajo a modelos más grandes alojados en la nube. Funciona mediante una interfaz de línea de comandos, una API, aplicaciones de escritorio e integraciones para agentes de programación, asistentes y editores. La ejecución local puede permanecer totalmente sin conexión, lo que resulta útil cuando los datos deben quedarse en el equipo del usuario. El acceso a la nube requiere una cuenta y ofrece los planes Gratis, Pro y Max; el plan Equipo figura como próximo lanzamiento. El consumo en la nube se basa principalmente en el tiempo de GPU, no en una asignación fija de tokens, por lo que los modelos más grandes y las solicitudes más largas consumen los límites con mayor rapidez. El plan Gratis cubre trabajos ligeros en la nube. Pro añade modelos más grandes, tres modelos simultáneos en la nube y 50 veces el uso en la nube del plan Gratis. Max eleva la simultaneidad a diez y proporciona cinco veces el uso de Pro. Por tanto, Ollama es adecuado para desarrolladores que valoran el control local, pero que a veces necesitan hardware de centros de datos. La administración centralizada, el SSO, los controles de modelos y la asistencia prioritaria formarán parte del futuro plan Equipo.