Jev
Jev 是 TypeSafe AI 推出的「System One」决策模型:不生成文本,而是针对已知选项返回结构化决策(选项、分数或概率),供代码直接分支使用。
关于 Jev
Jev 是 TypeSafe AI 推出的旗舰模型,官方称其为「System One 模型」类别的第一个产品。它不逐个 token 生成文本,而是把针对某个状态(state)提出的类型化问题评估后,返回结构化决策——一个选中的选项、一个分数或一个概率——供你的代码直接分支使用。也就是说,它只做「从已知选项中做选择」这一件事:适合高并发、低延迟、答案空间封闭的判定场景,例如对每条工单分流、对每条检索结果打分、对每次工具调用做门控。它不生成任何文字,不能写摘要或回答开放性问题;这类任务仍需搭配传统 LLM。模型仅以托管 API 形式提供,无开放权重、无自托管或 VPC 部署选项,提供 Python 和 JavaScript SDK,并兼容 TypeSafe 的 /v1/systemone 请求格式及 OpenAI 兼容端点。
适合人群
适合场景
对每条入站工单自动分流到队列、评定紧急程度并标记流失风险(官方 ruleset 示例:support-ticket-triage)
对每条检索到的段落打分,决定是否进入下游流程
对每次工具调用做门控判定
需要高并发、低延迟(官方称 70–500ms 端到端)的批量判定场景
对比选择
官方对比页称:准确率上 LLM 胜出——厂商自己的表格:Jev 67.8%,GPT-5.6 Sol 74.1%,Opus 5 73.1%
官方对比页称:延迟 0.4 秒对 10–38 秒(厂商报告,按每次决策计)
官方对比页称:每次决策成本 $0.0004 对 $0.03–$0.18(厂商报告)
功能特性
结构化决策输出
针对状态提出类型化问题,返回选中的选项、分数或概率,代码可直接据此分支。
低延迟判定
官方称端到端延迟 70–500ms,适合对每次工具调用或每条数据做实时判定。
批量请求
一次请求最多 20 个条目,失败按条目单独报告,不影响整批。
Python / JavaScript SDK
提供 Python 和 JavaScript SDK,请求格式与 TypeSafe 的 /v1/systemone 相同,另有 OpenAI 兼容端点。
64k 上下文
上下文窗口 64k token,单请求上限为 64k token(状态 + 最长问题合计 32k)。
优点
- 官方称每次决策约 $0.0004,比传统 LLM 便宜约 75 倍、快约 25 倍(厂商报告口径);官方定价页实测一次单 Choice 调用仅 $0.0000144,约比该数字低 20 倍,原因是典型状态只有几百 token
- 输出免费,成本只随输入 token(状态 + 问题)增长,多个问题可合并到一次调用共享状态
- 注册即发 API key,无需等待名单、无需绑卡
- 购买的 credit 永不过期,失败的请求不计费
- 任何档位都没有每分钟限制,用量按 credit 计数
缺点
- 官方对比页称其原始判定的准确率低于主流 LLM(厂商表格:Jev 67.8%,GPT-5.6 Sol 74.1%,Opus 5 73.1%)
- 完全闭源:仅提供托管 API,无开放权重,无自托管或 VPC 选项
- 限流(每秒 10 万 token、每秒 80 请求)官方称正在调整,可能不经通知即变更
- 发布时仅支持文本输入,不支持图像或音频