Ollama

Ollama はオープンモデルをローカルハードウェアで実行し、必要に応じて同じワークフローをより大規模なクラウドホスト型モデルにも拡張できます。コマンドラインインターフェース、API、デスクトップアプリのほか、コーディングエージェント、アシスタント、エディター向けの連携機能を利用できます。ローカル実行は完全なオフライン環境でも可能なため、データをユーザーのマシン内に保持する必要がある場合に役立ちます。クラウドの利用にはアカウントが必要で、無料、Pro、Max の各プランが用意されています。Team プランは近日提供予定です。クラウド消費量は主に固定トークン枠ではなく GPU 時間に基づくため、大規模なモデルや長いリクエストほど上限を早く消費します。無料プランは軽量なクラウド作業に対応します。Pro では、より大規模なモデル、3 つのクラウドモデルの同時実行、無料プランの 50 倍のクラウド利用量が追加されます。Max では同時実行数が 10 に増え、Pro の 5 倍の利用量が提供されます。そのため Ollama は、ローカルでの制御を重視しつつ、時にはデータセンターのハードウェアを必要とする開発者に適しています。一元管理、SSO、モデル制御、優先サポートは、近日提供予定の Team プランに含まれます。