Jev 没你想的那么神!一文带你搞懂它的三个边界:选项、概率、评测

大家好!我是瓜哥。前互联网技术副总裁,现在带队死磕 AI 编程。

文档更新 · 2026-09-277 min read
大家好!我是瓜哥。前互联网技术副总裁,现在带队死磕 AI 编程。

一条用户消息:“包裹还没收到,我想申请退款”,你让模型从「查物流」和「更换商品」里选一个,它能不能回答「退款」?

如果接口规定只能从这两个选项里挑,那么正确答案根本就不在选项里。

这正是我觉得 Jev 值得拆开的地方。

最近超热门的 Jev 决策模型,TypeSafe 官方将它称作面向软件的决策模型。

官方介绍说 Jev “不会幻觉”,还又快又准。

这句话很容易被理解成它不怎么会答错,实际并不高深:它给出的答案按预设类型和选项返回,软件能直接读取,提升了速度,在特定场景里比一般大模型表现的更快更准。

但你也别太兴奋,先把重点放在这四个字:特定场景。原因也很简单,结构合规,并不直接代表判断正确!

带着 “TypeSafe 官方速度与零幻觉的主张,是否来自任务收窄和固定输出?” 这个问题,今天一起来扒一扒 Jev 决策模型。


如果你也在自己折腾产品、天天跟 AI 写代码较劲,那这个号你大概率会觉得对味。

一、先拆开“不会幻觉”这句话

1. Jev 返回的是有限类型的判断

① 三类问题对应三种返回值

普通聊天模型主要生成一段文字。程序想使用这段文字,通常还得做一遍解析和格式检查,再取出选项、分数或是否紧急。

Jev 的接口把问题和答案形状先定下来。官方文档列了三类问题。

  • Choice 从给定选项中选择
  • Score 按给定等级打分
  • Noul 判断一句话为真或为假,并返回相应概率

程序再读取字段,决定走哪条分支。

Jev 的三类判断:Choice、Score、Noul
Jev 的三类判断:Choice、Score、Noul

拿快递消息举例,Choice 可以让程序预先列出「物流查询」、「退款」、「账户问题」,答案字段可以直接读取。

Jev 返回的选择会落在这组答案里,不像一般大模型那样一个 token 一个 token 的吐。一次 Jev 请求里可以混用多种问题(Choice、Score、Noul),模型会并行、独立的作答。

普通大模型和决策模型具体区别?

维度普通模型Jev 决策模型
输出生成文字,也可以按要求生成结构化内容返回预先定义的类型化答案
程序使用解析并检查生成结果按字段读取选项、分数或概率
主要风险格式不符合约定,也可能判断错答案形状受约束,语义判断仍可能错

2. 格式被锁住,不等于判断不会错

① 选项不全时,错误仍然会发生

回到开头的例子。

如果选项只剩「查物流」和「更换商品」,「退款」就不在答案里,Choice 决策也就无法返回「退款」。

官方文档建议,选项可能覆盖不全时,加入 other 或 none of the above。高质量的选项设计还是需要人来负责。

选项里没有正确答案时,结构化输出也会选错
选项里没有正确答案时,结构化输出也会选错

这种方式能避免一种错误:模型随手编出一个程序不认识的字段或类别。但挡不住另一种错误:在设计考量不充分的情况下,模型只能在已有选项里挑了一个不合适的答案。

格式正确,决策仍然不是最佳选择,甚至是错误选择。

因此,TypeSafe 所说的 “不会幻觉”,应放在 输出边界里理解。官方发布文章把类型错误图表标为非经验测量,它解释说 schema matching(输出结构匹配)由设计保证。

3. 概率不是正确率保证书

① 把模型信号和真实正确率分开

Choice 和 Score 会返回 概率分布与 confidence。Noul 返回 “是/真” 的概率,没有单独的 confidence 字段。

官方文档把前两者的 confidence 解释为从概率分布归纳出的把握程度。

看到 0.9的输出,我不会直接把它翻译成 “这题有九成正确”。

它首先是这次回答里的模型回复,要把它用作 自动执行门槛,仍得拿自己的已标注正确结果对比检查:哪些问题经常答错,错误会造成什么代价,低把握时要不要转人工。

这依然是我们应用 Jev 模型时,需要认真考量的问题。

confidence 是模型信号,需要用样本校准
confidence 是模型信号,需要用样本校准

二、宣传数字要连着评测方法一起看

1. 快慢比较,得看双方做的是不是同一类工作

① 并行拆题是一个值得比较的思路

网上有人提出一个反问:把一段复杂任务拆成几个小问题,再并行调用模型,普通大模型也可能更快。

这也是在互联网热闹之余,我们需要思考的问题:因为单次调用的耗时,不等于完整工作流的价值。

TypeSafe 把 Jev 的目标限定在 System One 任务,例如分类、路由、评分和分支判断。官方也说,真实工作流常把问题拆细,再由代码组合结果。官网给出的速度和成本数字来自这类工作流评测,不能直接套到写文章、复杂推理或所有模型调用上。

复杂任务可以拆成子任务并行处理,再汇总结果
复杂任务可以拆成子任务并行处理,再汇总结果

2. 官方评测没有使用人工标准答案

① 参考答案来自大模型判断

TypeSafe 的官网说,它没有用 人工标注的 ground truth 作为评测答案,而是把每个模型放进同一工作流,再用 GPT-6 Astra 与 Claude Fable 5.1 的平均判断作参考。

评测分数依赖作为支点的模型共识
评测分数依赖作为支点的模型共识

我们也得清楚限制:评测工作流由模型能力团队成员编写,因此可能带有偏差;参考模型的选择也会影响比较结果。这组评测能说明模型在这些流程里如何彼此对照,不能直接当成实际应用里的准确率。

这里,我把并不是说这些限定让评测毫无参考价值。

我只是觉的,厂商的一组工作流实验,适合用来提出问题、找适用场景,但并不能直接证明 “Jev 就普遍比大模型准” 或 “快几百倍”。

官网公开信息和未验证的内部机制应分开看
官网公开信息和未验证的内部机制应分开看

三、什么时候值得把 Jev 放进流程

1. 先看答案范围能不能提前列出来

① 先检查候选答案是否完整

如果每次输入都要写一段开放式解释,Jev 的接口就不合适。若任务是把请求分到已知队列、按统一尺度评分,或判断一个条件是否成立,类型化输出才派得上用场。

我会先问自己三个问题:

  • 答案选项能不能列全?
  • 漏掉某个选项时,系统怎样兜底?
  • 答错之后,程序会自动执行什么?

这三问比新名词更能决定能否采用。

2. 规则能写清楚时,不必让模型来猜

① 确定规则交给代码,语义判断才考虑模型

相对来说,对应规则清晰的任务更适合调用 jev。

比如:金额计算、日期比较、固定条件判断等,有明确的规则的场景。Jev 更适合 有边界的语义判断。

遇到需要解释原因、写正文、处理长链推理的任务,聊天模型更顺手。遇到固定输入和固定条件,代码更可靠。Jev 的位置,适合放在在两者之间那块需要语义判断又要固定答案的地方。

按任务形状选择代码、Jev 或聊天模型
按任务形状选择代码、Jev 或聊天模型

3. 把低把握规则提前写进代码

① 按错误代价安排后续动作

有了概率或 confidence,不代表系统自动知道何时停手。官方也把阈值与后续动作留给调用方:按错误风险决定自动处理、要求确认,还是转给人工。

例如,分错一个低风险咨询队列,用户也许能重新选择;分错退款审批,后果就不一样,两种情况不能共用同一个阈值。

上线前应该用自己的标注数据测试,并把低把握、选项不全和接口失败的路径都安排好。

根据阈值和错误代价决定自动处理还是人工复核
根据阈值和错误代价决定自动处理还是人工复核

写在最后

Jev 的所谓的 “不会幻觉”,咱可不能直接理解成 “它不会判断错”。

一个更准确、范围更窄的说法:把输出限制在提前定义的结构里,让程序少处理格式和选项越界问题。答案集合能提前列清,错判后果能控制,而且程序有办法处理低把握结果,就值得接入到真实工作流里来跑。

如果涉及复杂语义的理解,答案本身开放、选项经常漏项,又没有人接住失败,输出整齐也解决不了这些问题。这类场景,还得老实选择主流的大模型。

以上,就是今天的全部内容。我是AI编程瓜哥,一个只分享硬核实战的 AI 博主。

下一篇我会把一次 Jev API 调用拆开,看看 state、问题类型、选项和返回概率分别怎么写。用真实案例带你更了解 Jev 的正确用法。

扩展阅读

  • TypeSafe:Introducing System One Models & Jev
  • TypeSafe 官方 Quick Start
  • TypeSafe 官方 Primitives 文档
  • TypeSafe 官方 Confidence 文档

评论区

暂无公开评论

还没有公开评论。

提交反馈

图文Jev 没你想的那么神!一文带你搞懂它的三个边界:选项、概率、评测

反馈类型

请等待管理员审核,通过后将显示在评论区。

0 / 500