Jev
Jev 是 TypeSafe AI 推出的「System One」決策模型:不產生文字,而是針對已知選項回傳結構化決策(選項、分數或機率),供程式碼直接分支使用。
關於 Jev
Jev 是 TypeSafe AI 推出的旗艦模型,官方稱其為「System One 模型」類別的第一個產品。它不逐一 token 產生文字,而是評估針對某個狀態(state)提出的類型化問題後,回傳結構化決策——一個選中的選項、一個分數或一個機率——供你的程式碼直接分支使用。也就是說,它只做「從已知選項中做選擇」這一件事:適合高並行、低延遲、答案空間封閉的判定情境,例如對每張工單分流、對每筆檢索結果評分、對每次工具呼叫做閘控。它不產生任何文字,無法撰寫摘要或回答開放式問題;這類任務仍需搭配傳統 LLM。模型僅以託管 API 形式提供,無開放權重、無自架部署或 VPC 部署選項,提供 Python 和 JavaScript SDK,並相容於 TypeSafe 的 /v1/systemone 請求格式及 OpenAI 相容端點。
適合人群
適合場景
對每張進站工單自動分流到佇列、評定緊急程度並標記流失風險(官方 ruleset 範例:support-ticket-triage)
對每段檢索到的段落評分,決定是否進入下游流程
對每次工具呼叫進行閘控判定
需要高並行、低延遲(官方稱 70–500ms 端對端)的批次判定情境
選擇前比較
官方比較頁稱:準確度上由 LLM 勝出——廠商自己的表格:Jev 67.8%,GPT-5.6 Sol 74.1%,Opus 5 73.1%
官方比較頁稱:延遲 0.4 秒對 10–38 秒(廠商報告,按每次決策計算)
官方比較頁稱:每次決策成本 $0.0004 對 $0.03–$0.18(廠商報告)
功能特性
結構化決策輸出
針對狀態提出類型化問題,回傳選中的選項、分數或機率,程式碼可直接據此分支。
低延遲判定
官方稱端對端延遲 70–500ms,適合對每次工具呼叫或每筆資料做即時判定。
批次請求
一次請求最多 20 個項目,失敗以項目分別回報,不影響整批。
Python / JavaScript SDK
提供 Python 和 JavaScript SDK,請求格式與 TypeSafe 的 /v1/systemone 相同,另有 OpenAI 相容端點。
64k 上下文
上下文視窗 64k token,單一請求上限為 64k token(狀態 + 最長問題合計 32k)。
優點
- 官方稱每次決策約 $0.0004,比傳統 LLM 便宜約 75 倍、快約 25 倍(廠商報告口徑);官方定價頁實測一次單 Choice 呼叫僅 $0.0000144,約比該數字低 20 倍,原因是典型狀態只有幾百個 token
- 輸出免費,成本只隨輸入 token(狀態 + 問題)增加,多個問題可合併到同一次呼叫共用狀態
- 註冊即發放 API key,無需等候名單、無需綁卡
- 購買的 credit 永不過期,失敗的請求不計費
- 任何方案都沒有每分鐘限制,用量以 credit 計算
缺點
- 官方比較頁稱其原始判定的準確度低於主流 LLM(廠商表格:Jev 67.8%,GPT-5.6 Sol 74.1%,Opus 5 73.1%)
- 完全閉源:僅提供託管 API,無開放權重,無自架部署或 VPC 選項
- 速率限制(每秒 10 萬 token、每秒 80 個請求)官方表示正在調整,可能未經通知即變更
- 發布時僅支援文字輸入,不支援影像或音訊