S
Soup CLI
面向模型後訓練、評測與發布門禁的一體化 CLI
free
最後更新 2026/9/10
關於 Soup CLI
Soup CLI 將後訓練流程集中在一個命令列工具中:可對資料進行訓練前檢查,按規則選擇方法並產生設定,從自有資料衍生評測,對每次儲存執行門控,並在執行中自行修正獎勵破解。它支援 23 種方法、163 個配方和 17 種量化格式,可將凍結基礎模型從 CPU 記憶體或 NVMe 分層串流傳入 GPU 記憶體並量化為 4-bit;soup eval 可產生帶 SHA 固定的評測套件,soup ship 會拒絕任務得分提升但通用知識受損的模型。
適合人群
模型後訓練工程師
使用小顯存 GPU 的開發者
需要離線評測的團隊
已有訓練設定的移轉使用者
適合場景
資料訓練前檢查與設定產生
小顯存裝置上的模型微調
從自有資料建立離線評測
發布前驗證模型通用知識
功能特性
資料預檢與設定產生
對資料進行訓練前檢查,按規則選擇方法並產生訓練設定。
分層串流與量化
將凍結基礎模型從 CPU 記憶體或 NVMe 一次傳入一個解碼器層,並支援 4-bit 量化。
自有資料評測衍生
從自有資料衍生帶 SHA 固定的評測套件,並對每次儲存執行門控。
模型發布門禁
soup ship 透過 8 個離線套件評分,拒絕任務得分提升但通用知識受損的模型。
優點
- 免費且採用 Apache-2.0 授權
- 支援離線執行,無需註冊和信用卡
- 涵蓋多種方法、配方與量化格式
- 可提交發布門禁證據
缺點
- 層串流參考實作的層讀取次數約為 1.52 倍
- 偏好損失沒有已測量的 tok/s 資料
價格方案
Free
$0長期
- Apache-2.0 授權
- 離線執行
- 無需註冊
- 無需信用卡
* 價格資訊僅供參考,請以Soup CLI官網最新公告為準。
常見問題
官方頁面列出 23 種方法,包括 DPO、ORPO、SimPO 和 KTO。
soup eval 從自有資料衍生帶 SHA 固定的評測套件;soup ship 針對 8 個離線套件評分,並拒絕任務得分提升但通用知識受損的模型。
工具資訊
開發商Soup CLI
釋出日期2026/9/10
定價模式free