先问一个问题:你现在的 AI 账单里,有多少钱是花在「让模型生成一段文字」上的?
再想一层:这些文字里,又有多少其实只需要一个「是/否」「A/B/C」或者一个分数?
TypeSafe AI 上周发布的 Jev,就是冲着这个问题来的。它的定义方式很反直觉:输入还是文本,但输出不是文本,而是浮点数。
它不说「这封邮件看起来像垃圾邮件」,它给你 `0.97`。它不写一段理由,它只给你一个置信度。
Simon Willison 在博客里引用了 TypeSafe 自己的说法:
> 把 Jev 理解成一个「前沿智能的函数调用」:非结构化的状态进,带类型的概率决策出。
价格:输出免费,输入比 GPT-5 Nano 还便宜先看最冲击的数字。常规 LLM 按输入和输出 token 计价,而且输出通常贵得多。Jev 只收输入的钱——输出免费。
它第一个模型的输入价格是 $0.042 每百万 token。作为对比,OpenAI 的 GPT-5 Nano 是 $0.05 每百万。也就是说,Jev 比市面上最便宜的「小模型」之一还要便宜。
速度上,Bytes 的说法是「约 40ms 给出每个答案正确的概率」。而且多个问题是并行评估的,你塞十个问题进去,耗时和塞一个差不多。
它只回答三种问题Jev 的 API 设计很克制。你构造一个「state」对象(一段文本、一个字符串数组、或者一组 name-value 对,用来描述一篇文章、一个客户、任意一条记录),然后带上一到多个问题发过去,每个问题都拿回一个答案。
问题只有三种:
是/否问题,TypeSafe 叫它 Noul 问题。CEO 在 Hacker News 上确认了,这来自 Bernoulli(伯努利)分布。你给一个陈述句,它回一个 0 到 1 之间的浮点数,表示它认为这句话为真的置信度。选择问题,从你提供的一组选项里挑一个——实际上返回的是置信度,外加一个覆盖所有选项的概率分布。打分问题,你给一串带描述的数值档位,它给一个落在区间里的浮点分。Simon 的判断是,理解 Jev 最有用的框架就是「决策模型」——任何能表达成分类任务的事,它都很擅长。垃圾邮件检测、建议标签、优先级排序、排名。
他自己的实验是拿它做搜索重排:先用 BM25 这种便宜算法捞出 100 个候选,再让 Jev 对这 100 个候选按相关性打分。
播客里的那一半:为什么是现在Latent Space 的 Swyx 请到了 TypeSafe 的 CEO Diogo Almeida——InstructGPT 论文作者之一,OpenAI 出身。这期播客把 Jev 背后的方法论讲得比官网清楚得多,值得单独拎出来。
第一,命名。 Jev 取自 Jevons Paradox(杰文斯悖论):效率提升反而让总消耗增加。TypeSafe 的定位不是「更强的模型」,而是「每美元买到更多智能」。Diogo 说他们的北极星指标就是 intelligence per dollar。
第二,他们不用 RLHF,也不用 RLVR。 这是整期最硬的技术观点。
Diogo 把 RLHF 的谱系追到三篇论文——Christiano 2017(机器人后空翻)、Stiennon 2020(学习摘要)、Ouyang 2022(也就是他自己的 InstructGPT)。他的批评是:RLHF 训练的模型会「丢掉少数类,只做最常见的那些」,而校准(calibration)会「变成污染字符串概率分布的毒药」。这套机制直接导致幻觉和谄媚。
RLVR(用可程序化验证的输出做强化学习)能解硬题——比如那些 Navier-Stokes 的成果——但它会加剧「锯齿状智能」:模型在能验证的题上飞起,在不能验证的题上崩掉。
TypeSafe 提出的替代方案叫 RLCD(Reinforcement Learning for Calibrated Decisions,面向校准决策的强化学习),一个尚未发表的、针对「在 System One 任务上给出认知上诚实的概率」的技术。它的北极星是:让程序在环里(programs in the loop)。
第三,他认为「拒答」在技术层是个类型错误。 这段观点很值得 AI 工具链的开发者读。
Diogo 反对在技术层做安全对齐。他的论证是:如果 AI 是埋在软件依赖里的,你「难道希望这个软件因为用户发了一句奇怪的话,就随机崩掉?」——他管这叫「纯粹的疯狂」。
他把「能力对齐」(做用户想要的事)和「安全对齐」(执行别人的指令)分开:后者对 ChatGPT / Claude 这种面向人的产品有意义,但对 API 没意义。他有个很形象的说法:
> 智能会更像一个数据库,而不是一个同事。
数据库不会去审查它的用户。
第四,他们追求的是鲁棒性,不是确定性。 Diogo 认为正确的目标不是「同样输入得到同样输出」,而是「相似输入得到相似输出」。他们的测试方法是往提示里塞 UUID 和 nonce,看语义等价的输出是否稳定。目前没有 seed,确定性「也许以后会有,但会牺牲每美元智能」。他们的承诺是:「我们部署模型时,不会偷偷改它。」 目前考虑给 Jev 1.13.0 这类版本做临时 LTS。
第五,他们自称数据实验室,不是模型实验室。 Diogo 的原话是:「你优化什么就得到什么,而机器学习最苦的一课是,它最重要的部分根本不是机器学习。」他的优先级是:算法 > 算力;数据 > 算力;而选对任务最重要。他还说自己「极度反对公开榜单」,理由是榜单可以被刷,是「多此一举的刷分」,他更信内部评测和「模型好闻的味道(vibe)」。
顺便给几个现场数字:Jev 发布时达到每天一万亿 token 的调用量,Discord 有十万人,发布视频约四千万播放。
但有个不舒服的地方:黑箱回来了Simon 对 Jev 有个坦率的保留意见,我认为这是每个想用它的人必须读的一段。
LLM 本来就是黑箱,但至少你可以问它「你为什么这么判断」。Jev 连这个都没有:你给它再多文本,拿回来的只有一个浮点数。 如果 Jev 把某样东西标成垃圾邮件,到底是哪段内容触发的?你不知道。
这就让偏见问题变得格外尖锐。Simon 说得很重:「我真的希望没人拿 Jev 去给求职者排名。」 那个浮点数可能藏着各种看不见的偏见,而想把偏见实验性地拆出来,会非常困难。
他做了个实验:让 Jev 给旧金山湾区的每个城市回答「这是个好城市吗」的是/否问题。结果——Cupertino 排第一,East Palo Alto 垫底。
嗯。
Simon 的结论是:这意味着 eval 和结构化实验,比在常规 LLM 项目里更重要。好消息是 Jev 足够便宜,跑几百上千次实验提示,成本也就几美分。
社区已经把梗玩疯了Jev 发布还不到一周,社区的花样已经超出所有人预期:
jevchat(Kyle Pena)把 Jev 变成了一个(很糟糕的)聊天模型。它的做法是每一步只问 Jev 一个问题:「给定用户的问题和已经写出的回复,下一个符号是什么?」Hacker News 上有人评价:「这是数字版的 Morty 对着死亡水晶说话。」jev-leftpad(Fatih Kadir Akın)用 Jev 实现了 left-pad。提示词是「value 前面需要多少个空格才能达到 targetLength?」,配一个从「需要 0 个空格」到「需要 10 个空格」的选择题。jev-2048(Andy Gayton)让 Jev 来玩 2048 这个滑块游戏。更值得注意的是开源复刻。Kev(Jared Palmer)基于 Qwen 3.5 做出了 0.8B、4B、9B 三个「类 Jev」模型;配套的 Hacker News 讨论里,已经有人挂出了 JevBench,专门比较「Jev 级决策模型」。Jev 才发布不到一周,生态热度已经相当夸张。
Simon 自己也动手了:他发布了 llm-typesafe,给自己的 LLM CLI 和 Python 库加上 Jev 支持。用法大概长这样:
llm -m jev 'Please refund my last payment.' \
-s 'Does this message explicitly request a refund?'
Bytes 总结的四种落地模式Bytes 第 522 期(标题就叫《Jev 的悖论》)把开发者正在摸索的模式归纳成了四类,我觉得比自己瞎想有用:
Speculative Fanout(投机式扇出):一次查询里问多个问题,并行拿到全部答案。比如给一张客服工单同时判断类型、严重程度、用户愤怒值。Confidence Gated Routing(置信度门控路由):用 Jev 给的置信度决定下一步。置信度高就直接执行,置信度低就加一个向用户澄清的追问。Composite Scoring(复合打分):给 Jev 一份评分标准,它给所有维度一个综合分。最经典的例子是简历自动筛选——请注意,这正好撞上 Simon 警告的偏见问题。Intent Routing(意图路由):意图是模糊的,但响应的决策树往往是确定的。让 Jev 站在复杂查询前面,分类、然后路由到对应处理。Bytes 的结论很直白:开发者早就受够了「文本之神替你做一切,然后月底给你一张离谱账单」。Jev 看起来就是那个开发者真正想要的、缺失的 AI 原语。
对独立开发者的启发Jev 这波热度里,藏着三条对做产品的人真有用的判断:
1. 把「生成文字」和「做判断」拆开算账。 如果你的 agent 里有一堆「分类、路由、打分、排序」的环节,它们根本不需要一个会写作文的模型。把这类活外包给决策模型,成本能降一到两个数量级,延迟从秒级降到几十毫秒。这是纯粹的结构性省钱。
2. 便宜到可以「暴力做实验」,这本身就是新能力。 $0.042 每百万 token 意味着你可以对同一批数据跑上千次评测,去调阈值、看分布、拆偏见。以前只有大厂做得起的事,现在个人开发者也能做。前提是你得真的去做——黑箱模型不给你解释,只给你数字,eval 是你唯一的抓手。
3. 开源复刻已经把路铺好了。 Kev 这类基于 Qwen 的复刻、加上 JevBench,意味着如果你不想依赖第三方 API,自己跑一个「类 Jev」的开源决策模型已经可行。MIT 或开放权重 + 便宜,是独立开发者能自己掌控的组合。
最后回到 Jevons 悖论本身。TypeSafe 起这个名字,赌的是「智能变便宜之后,用它的地方会爆炸式增长」。Diogo 在播客里说了一句话,我觉得是这整件事最好的注脚:
> 一个基于 AI 的经济革命又回到了桌面上,这太他妈棒了。
他还有个目标,听起来很朴素但野心极大:让 Jev 消失在背景里,像正则表达式一样不起眼,成为「认知的核心」——LLM 是 TCP,它是 UDP。
如果这个类比成立,那 Jev 的价值不在于它多聪明,而在于它足够便宜、足够快、足够无聊,以至于你写代码时会理所当然地用它,就像用 `if` 一样。
来源:simonwillison.net/2026/Sep/21/jev/
播客 www.latent.space/p/jev
Bytes 第 522 期 bytes.dev/archives/522