TypeSafe AI 发布 System One 模型与 Jev：把概率决策变成函数调用
语言模型在聊天上超越人类已经好几年，自动化却迟迟没有大规模发生。Diogo Almeida 在 OpenAI 参与构建了让语言模型遵循指令、与人对话的方法，这些研究后来成了 ChatGPT 的基础。他在 OpenAI 期间一度以为聊天模型会通向 AGI，但很快发现其中缺失了关键环节。经过两年隐身开发和多次研究突破，TypeSafe AI 发布了首个 System One Model，以及配套的 Jev 模型。
Jev 的核心思路可以用一句话说清，它是一个前沿智能的函数调用，输入非结构化状态，输出类型化的概率决策。模型放弃了字符串生成，专门针对结构化输出优化，不会产生幻觉，也不会出现类型错误。
System One 模型和 Jev 到底新在哪里
TypeSafe 把现有 LLM 和 System One 模型的差异拆成了八个维度，放在同一张表里对比。
| 现有 LLM | System One + Jev | |
|---|---|---|
| 优化方法 | RLHF / RLVR | RLCD（Reinforcement Learning for Calibrated Decisions） |
| 优化目标 | 人类偏好，人类评分者更喜欢的写作和聊天回复；可验证奖励，能通过程序化方式验证的输出。 | 校准决策，在 System One 任务上给出认知上诚实的概率答案。 |
| 输入 | 非结构化数据（如文本），侧重序列化消息。 | 非结构化数据（如文本），侧重结构化程序状态。 |
| 输出 | 字符串 / 生成文本。 字符串灵活，可以是任何东西，聊天回复、代码、幻觉、拒绝回答，甚至碰巧是类型安全的结构化值。软件要使用这些输出，必须先解析和校验，而且始终存在模型跑偏的风险。 | 类型安全的结构化值。 可能的输出和结构提前定义好。模型不会产生类型错误。所有答案都附带校准过的概率和置信度分数。 |
| 采样 | 串行。 一次生成一个 token，每个 token 都依赖前一个。 | 并行。 在单次查询里生成所有输出。效率极高，且对硬件友好。 |
| 成本 | 输入 token：每百万 token 0.20 到 10 美元。输出 token 大约贵五倍。 | 输入 token：每百万 token 0.042 美元（每十亿 token 42 美元）。输出 token 免费，便宜到不值得计量。 |
| 速度 | 前沿模型的端到端响应时间在 3 到 329 秒之间。和人交互够快，但集成到代码里就是大瓶颈。 | TypeSafe 的端到端响应时间在 70ms 到 500ms 之间。在 System One 类查询上，同等前沿智能水平下，速度差距在 40 倍到 200 倍之间。 |
| 置信度 | 即使提示模型给出置信度估计，模型也倾向于过度自信且不一致。如果一个模型能完成某项任务 95% 的时间，但不说出它什么时候属于那 5%，就无法自动化这项任务。 | 每个输出都附带置信度和不确定性。经过校准，更高的置信度意味着更高的准确率。更一致，相似输入返回相似答案。 |
| 使用场景 | 人在回路中的任务（聊天机器人、copilot、编码 agent）。 通用且强大，但需要人类监督，因为它们的自由度也意味着可能跑偏。可验证问题（数学证明、内核优化）。 当正确性可以被廉价且自动地检查时，LLM 可以生成、测试、迭代，直到找到可行方案。演示。 字符串的灵活性让它非常适合快速制作原型，虽然这些原型只能偶尔工作。 | AI 驱动的工作流 / 智能 if 语句。 结构化输出可以像模糊决策规则一样嵌入普通软件，做分类、路由、评分、提取或分支，这些地方手写逻辑太脆弱。周围代码约束了模型的自由度，更容易组合成可靠系统。对大数据的 map-reduce。 把 PB 级数据变成特征和洞察。实时应用。 100ms 的速度让 AI 可以用在 UX 关键的应用里。验证一切。 对 LLM 提示、推理轨迹或输出做评分、判断、验证、护栏和越狱检测。 |
这张表里最值得关注的是采样方式和输出类型。现有 LLM 逐 token 生成，每个 token 都依赖前一个，这种串行采样的方式决定了端到端响应时间很难压到秒级以下。Jev 在单次查询里并行生成所有输出，响应时间落在 70ms 到 500ms 之间。在 System One 类查询上，同等智能水平下，速度差距在 40 倍到 200 倍之间。
输出类型的差异同样关键。LLM 输出字符串，字符串可以是一切，聊天回复、代码、幻觉、拒绝回答，或者碰巧是合法的结构化值。软件要使用这些输出，必须先解析和校验，而且始终存在模型跑偏的风险。Jev 的输出结构和取值范围提前定义好，模型不会产生类型错误，所有答案都附带校准过的概率和置信度分数。
成本上的差距更直接。LLM 的输入 token 价格在每百万 token 0.20 到 10 美元之间，输出 token 大约贵五倍。Jev 的输入 token 价格是每百万 token 0.042 美元，输出 token 免费。TypeSafe 的说法是输出 token 便宜到不值得计量。
速度、成本和类型安全的证据
TypeSafe 在博客里把可验证的声明和需要更多证据的声明分开处理。
速度方面，他们承认评测是在西海岸的笔记本电脑上跑的，服务目前也部署在西海岸。成本方面，他们无法证明定价没有被补贴，需要更长时间来验证可持续性，不过他们预期价格会继续下降而不是上升。类型安全方面，他们指出这很容易被单个反例推翻，但在数学上不可能发生。
对于更大胆的声明，TypeSafe 提供了更多细节。他们做了一个并排演示，展示 Jev 和 LLM 的关键差异。Jev 并行输出所有概率，而不是逐 token 自回归生成。字符串极其强大和通用，但代价高昂，放弃字符串反而带来了一些超能力。
这个演示的查询经过了高度简化，questions 的键名选了人类可读的描述性名称，方便在屏幕上理解输出。state 是一段简短密集的段落，目的是突出采样方法的差异，较短的输入对 Jev 更有利。在录制的运行中，Jev 和 GPT-5.6 Terra 唯一的分歧在 Churn likelihood level 这一项上，TypeSafe 认为这个答案本身确实模糊。他们用 GPT-5.6 Terra 的默认推理模式做对比，因为发现它在智能水平上和 Jev 最接近。
工作流评测里的真实差距
TypeSafe 做了一种新的评测方式，衡量 AI 在代码里实际工作的效果。他们不优化某个标准答案的分类，也不允许测试框架和模型变化，避免通过框架工程过拟合。他们假设存在一个正确的计算图，也就是用代码表示的工作流，然后用最大、最聪明、最贵的外部模型的预测作为参考概率。每个模型拿到同一个工作流，测试它们和这些最聪明模型的平均值的接近程度。
Jev 在这项评测里表现突出，在几乎两个数量级的范围内占据了帕累托前沿。他们也对比了用生成式提示在思维链里完成所有逻辑的模型，这种方式明显更差。
这些调用比前面的并排演示复杂得多，因为更接近真正业务自动化需要的生产负载。TypeSafe 发布了四个工作流，其中最简单的一个也涉及多个独立、分解的问题，细粒度行为依赖概率而非离散决策，最终结果虽然是离散分支，但到达最终答案的过程涉及大量领域特定的工程，需要高度一致地执行。
工作流评测页面提供了所有细节，包括示例、分歧、完整查询和每个工作流。
关于 193.6 倍速度和 444.6 倍成本这两个首页数字，TypeSafe 承认这可能是实际收益的高端。这些工作流不是为了突出他们的模型而特意挑选或构建的，也不在训练分布里，但它们由模型能力团队的成员制作，可能存在一些偏差。参考答案是 GPT-6 Astra 和 Fable 5.1 的平均值，这偏向 OpenAI 和 Anthropic 的模型，可能低估了 TypeSafe 和 DeepSeek 模型的相对表现。LLM 使用 TypeSafe 的 System One LLM 包装器运行，这个包装器约束 LLM 输出与 TypeSafe API 兼容的结构化决策，是获取 LLM 决策最准确的方式，但比直接给出不带概率的决策更慢更贵。
幻觉和类型安全是一件事的两面
TypeSafe 认为幻觉和类型安全本质相关，类型安全是自动化的基本要求。一个幻觉的工具调用在 agent 里可能只是不方便，但如果它出现在有延迟保证的系统里，或者埋在依赖链的几层深处，就是彻底的灾难。现有模型无论多聪明，仍然会产生幻觉和类型错误。
LLM 的数字来自 OpenRouter，几乎肯定存在偏差，更复杂的查询可能被路由到更好的模型。TypeSafe 的数字不是经验性的，schema 匹配是保证的，所以他们可以自信地把 0% 放进图表。
两个有意思的演示
TypeSafe 团队最喜欢的两个演示展示了新的用例。
Doom 演示的是实时智能，以及代码加 AI 能做什么。实现这个演示的工程师担心每秒 10 次查询的成本，算下来大约每小时 7 美元，但团队其他人都觉得这比预期低。TypeSafe 计划发布详细的步骤说明，还会举办一些活动来围绕这个演示做开发。这个演示基于结构化状态和文本，还不涉及图像。一个非 AI 的 Doom 机器人可以打得更好，但他们想要一个能对不同游戏状态表示做出反应的机器人，而且遵循指令这件事本身就很酷。
Wikiracing 的目标是从一个 Wikipedia 页面出发，只通过沿途遇到的链接到达指定的另一个页面。每一步都可能在数百到数千个链接之间选择，这个游戏不仅展示每秒智能，还展示了在高基数选择下不产生幻觉的复利效应。据 TypeSafe 所知，第二个和第三个挑战都以 Rubber Duck 开头完全是随机的，作者是在团队指出后才注意到的。这里的加速比前面的演示小很多，因为对比的是模型的非推理模式，Astra 设置在最低推理档。这也是 Jev 倾向于用更少步骤完成的原因，是智能更高的标志。这样设置是为了让演示更好看，LLM 在开启推理后在这个任务上的表现会好得多。Jev 支持最高 255 的基数，对于更高基数的选择，他们用两阶段系统，先独立评分再显式选择，所以偶尔会慢一些。
接下来会发生什么
Jev 还在早期阶段，TypeSafe 有很多东西在管线里。今天开放早期访问，正在尽快把开发者从等待列表里放出来。他们想听开发者需要自动化哪些决策，Jev 在哪里能用，在哪里不够用。
TypeSafe 的出发点是相信 AI 需要一个软件可以依赖的接口。
FAQ
System One Models 和 Jev 这两个名字从哪来
System One 受到 Daniel Kahneman 的 Thinking, Fast and Slow 启发，模型类别名称来自快直觉的 System 1 思维和慢审慎的 System 2 推理之间的区分。System 1 思维通常也暗示容易出错，TypeSafe 认为 System One Models 可以做得比替代方案更可靠，具体原因会在以后展开。Jev 的名字来自 William Stanley Jevons，他们预期机器智能会走一条和煤炭类似的路径，蒸汽机效率提升后煤炭需求反而增加，智能成本每下降一个数量级，就会解锁多几个数量级的使用场景。
为什么需要新的训练算法
博客没有给出详细解释，只说这是他们训练方法的核心，叫 Reinforcement Learning for Calibrated Decisions。
Jev 适合什么用例
AI 驱动的工作流和智能 if 语句是主要场景。结构化输出可以像模糊决策规则一样嵌入普通软件，做分类、路由、评分、提取或分支，这些地方手写逻辑太脆弱。周围代码约束了模型的自由度，更容易组合成可靠系统。其他场景包括对大数据做 map-reduce，把 PB 级数据变成特征和洞察，以及实时应用，100ms 的速度让 AI 可以用在 UX 关键的应用里。验证也是重要场景，对 LLM 提示、推理轨迹或输出做评分、判断、验证、护栏和越狱检测。
Jev 是不是只是更小的 LLM
不是。Jev 使用了新的模型架构、并行采样器和 RLCD 训练方法，输出类型是类型安全的结构化值，而不是字符串。它放弃了字符串生成能力，换来了速度、效率和类型安全。
Jev 在公开基准上表现如何
博客没有提供公开基准的对比数据。他们提供的是自己设计的工作流评测，用最聪明模型的平均预测作为参考概率。
训练数据从哪来
博客没有说明。
这些结果看起来不太可能，怎么做到的
博客没有给出技术细节，只说用了新架构、并行采样器和 RLCD。
操作清单
-
访问 typesafe.ai 申请早期访问，等待列表正在逐步放出 -
查看 docs.typesafe.ai 了解输出结构定义方式 -
用 workflow evals 页面查看四个工作流的完整查询、示例和分歧 -
如果需要用 LLM 做对比，使用 System One LLM 包装器约束输出结构 -
实时应用场景可以按 70ms 到 500ms 的响应时间做设计 -
高基数选择场景注意 Jev 支持最高 255 的基数，更高基数需要两阶段处理 -
成本按输入每百万 token 0.042 美元计算，输出 token 免费 -
Doom 演示每秒 10 次查询的成本约每小时 7 美元，可作为实时场景的参考
