S

Soup CLI

面向模型後訓練、評測與發布門禁的一體化 CLI

free
最後更新 2026/9/10

關於 Soup CLI

Soup CLI 將後訓練流程集中在一個命令列工具中:可對資料進行訓練前檢查,按規則選擇方法並產生設定,從自有資料衍生評測,對每次儲存執行門控,並在執行中自行修正獎勵破解。它支援 23 種方法、163 個配方和 17 種量化格式,可將凍結基礎模型從 CPU 記憶體或 NVMe 分層串流傳入 GPU 記憶體並量化為 4-bit;soup eval 可產生帶 SHA 固定的評測套件,soup ship 會拒絕任務得分提升但通用知識受損的模型。

適合人群

模型後訓練工程師
使用小顯存 GPU 的開發者
需要離線評測的團隊
已有訓練設定的移轉使用者

適合場景

資料訓練前檢查與設定產生

小顯存裝置上的模型微調

從自有資料建立離線評測

發布前驗證模型通用知識

功能特性

資料預檢與設定產生

對資料進行訓練前檢查,按規則選擇方法並產生訓練設定。

分層串流與量化

將凍結基礎模型從 CPU 記憶體或 NVMe 一次傳入一個解碼器層,並支援 4-bit 量化。

自有資料評測衍生

從自有資料衍生帶 SHA 固定的評測套件,並對每次儲存執行門控。

模型發布門禁

soup ship 透過 8 個離線套件評分,拒絕任務得分提升但通用知識受損的模型。

優點

  • 免費且採用 Apache-2.0 授權
  • 支援離線執行,無需註冊和信用卡
  • 涵蓋多種方法、配方與量化格式
  • 可提交發布門禁證據

缺點

  • 層串流參考實作的層讀取次數約為 1.52 倍
  • 偏好損失沒有已測量的 tok/s 資料

價格方案

Free

$0長期
  • Apache-2.0 授權
  • 離線執行
  • 無需註冊
  • 無需信用卡

* 價格資訊僅供參考,請以Soup CLI官網最新公告為準。

常見問題

官方頁面列出 23 種方法,包括 DPO、ORPO、SimPO 和 KTO。
soup eval 從自有資料衍生帶 SHA 固定的評測套件;soup ship 針對 8 個離線套件評分,並拒絕任務得分提升但通用知識受損的模型。

工具資訊

開發商Soup CLI
釋出日期2026/9/10
定價模式free