分类:AI动态 标签:人工智能、大模型、开源项目、软件开发
过去四年,整个 AI 行业把几乎所有的算力和资本都压在了一件事情上:教大模型说出更流畅的人话。我们习惯了用百亿甚至千亿参数的庞然大物,先吐出一长串思考过程,再包装成礼貌体贴的自然语言,最后让开发者用复杂的正则表达式把需要的答案抠出来。
直到前 OpenAI 研究员 Diogo Almeida 带着他的新模型 Jev 登场,这种局面被彻底打破。
这个被称为 System One 的模型没有嘴巴,不生成任何文字,只输出概率判断。上线短短数天,全球开发者围绕它疯狂砸出了近五百个开源项目。大家突然发现,一旦剥离大模型的表达欲,原本昂贵而臃肿的 AI 应用,突然轻快得像一阵风。
大模型的「神经元」:从全能哲学家到高效决策者
如果把过去调用 GPT 或 Claude 的过程比作雇佣一位全知全能的哲学家来帮你盯监控,那么开发者们现在用 Jev 所做的事,更像是给流水线装上了无数个廉价且反应灵敏的神经元。
在最耗费算力的 Agent 基础设施领域,这种变化是颠覆性的:
- 上下文压缩:开发者 Tamara Tran 写了一个 Jev 插件用来压缩 Claude Code 的上下文。它不做任何归纳总结,而是逐条给历史工具调用的相关性打分,只要分值低于阈值直接整条剔除。近 100 万 token 的臃肿上下文,在 1 秒钟内被精简到 8.6 万,整个过程模型没有敲下一个字符。
- 端侧自动化:Droidrun 团队做了一个名为 mobile-jev 的手机操作代理。在一段演示中,它控制真实 Android 手机打开 Uber,输入起点和终点,一路精准点击直至付款界面,全程 9 个操作步骤仅耗时 21 秒。每一个界面的下一步该点哪里、该滑动还是该确认,全部交给 Jev 做极速概率匹配。
- 游戏与数据清洗:从操作模拟器玩超级马里奥、驱动《毁灭战士》守卫,到接入《星际争霸》完成战斗任务,再到用 150 行脚本在 13 分钟内完成 9081 条产品匹配数据清洗(总账单仅 32 美分),Jev 展现出了传统大模型无法比拟的极速与性价比。
一次判断耗时几十毫秒,花费仅 0.000015 美元。正如插件开发者在论坛里留下的那句意味深长的话:「我过去一直在用大语言模型回答根本不需要它的问题。衣服忘没忘拿是一个判断,不是一篇八股文。」
杰文斯悖论:暴跌的成本激活边缘场景
Jev 这个名字,取自 19 世纪英国经济学家威廉·斯坦利·杰文斯(William Stanley Jevons)。著名的「杰文斯悖论」指出,当技术的进步提高了某种资源的利用效率,导致其使用成本大幅下降时,该资源的总消耗量不但不会减少,反而会呈现爆发式增长。
TypeSafe AI 给 Jev 定下的价格是每百万输入 token 仅需 0.042 美元,输出免费。暴跌的成本,瞬间激活了那些此前被判定为毫无商业价值的边缘场景。
在内容分析领域,Distribb 创始人拿 Jev 扫描了近六百个网页,在 45 秒内完成了内部链接地图的重构,布设了五百多个链接,总共花费 21 美分。
这也解释了为什么创始人 Diogo Almeida 在离开 OpenAI 时会感叹:「我们手里握着一道闪电,但它却没那么好用。」作为参与构建 ChatGPT、共同发明 RLHF 的核心研究员,他的反思直指行业痛点:整个行业被困在优化人类自然语言这条死胡同里太久了。机器之间协同并不需要抑扬顿挫的修辞,机器需要的是明确的指令与概率。
「判断」和「生成」分家:分布式分工的起点
回看过去三年的 AI 叙事,主线一直是模型越来越大、越来越聪明、越来越全能。一个模型既能聊天,又能写代码,还能看图做表,默认智能是一块不可拆分的铁板。
Jev 的出现撕开了这块铁板。它证明了有些工作需要推理和表达,有些则只需要快速判断。把两者绑在一起,是一种结构性的浪费。
随着 vLLM 贡献者等开源社区迅速跟进推出类似开源版本,「判断模型」作为一个品类已经正式成立。在 Jev 催化的新范式里,一个 AI 系统不再只有单一的大脑,而是开始走向分工:
感知 -> 判断 -> 响应
海量的毫秒级判断交给便宜到像自来水一样的直觉模型,只有在真正需要向人类输出成段文字、起草复杂长篇报告的极少数节点,才唤醒那个昂贵的生成式模型。
当一个判断的成本从几美分降到万分之一美分,开发者不再只是把原来的工作做得更便宜,而是开始做以前根本不会去做的成千上万次判断。这正是 AI 基础架构从中央集权走向分布式分工的全新起点。