分类:AI动态 标签:大模型、人工智能、开源项目、软件开发


过去四年,整个科技行业把几乎所有的算力和资本都压在了一件事情上:教大语言模型说出更流畅的人话。我们习惯了让百亿甚至千亿参数的庞然大物先吐出一长串思考过程,再包装成礼貌体贴的自然语言,最后让开发者用复杂的正则表达式把需要的答案抠出来。

直到前 OpenAI 研究员 Diogo Almeida 带着他的新模型 Jev 登场,这种惯性被彻底打破。上线短短数天,全球开发者围绕它疯狂砸出了近五百个开源项目。大家突然发现,一旦剥离大模型的表达欲,原本昂贵而臃肿的 AI 应用,突然轻快得像一阵风。

大模型的「神经元」:只做判断,不写文章

智能家居社区 Home Assistant 最近出现了一个名为 HA-Jev 的插件。它的逻辑极其简单:传感器读取洗衣机的功率变化与洗衣房门的状态,然后抛出一个问题给模型,「洗衣机洗完了,衣服是不是被忘在里面了?」

模型不输出任何文字分析,只返回一个概率值。当置信度超过 0.8 时,手机就会弹出取衣提醒。一次判断耗时几十毫秒,花费仅 0.000015 美元。

如果把过去调用 GPT 或 Claude 的过程比作雇佣一位全知全能的哲学家来盯监控,那么开发者们现在用 Jev 所做的事,更像是给流水线装上了无数个廉价且反应灵敏的神经元。

在最耗费算力的 Agent 基础设施和自动化领域,这种变化是颠覆性的:

  • 上下文压缩:开发者用 Jev 插件替代大模型做摘要,逐条给历史工具调用的相关性打分,分值低于阈值直接剔除。接近 100 万 token 的臃肿上下文在 1 秒钟内被精简到 8.6 万,全程没有敲下一个字符。
  • 移动端自动化:手机操作代理 mobile-jev 控制真实 Android 手机打开软件、输入信息并一路点击直至付款,全程 9 个操作步骤仅耗时 21 秒,没有调用任何传统的文字生成大模型,全部依靠 Jev 做极速概率匹配。
  • 游戏与数据清洗:从操控模拟器玩游戏到清洗数万条产品匹配数据,Jev 用极低的成本和毫秒级的决断力,彻底激活了此前被判定为毫无商业价值的边缘场景。

杰文斯悖论:暴跌的成本激活全新场景

Jev 这个名字取自 19 世纪英国经济学家威廉·斯坦利·杰文斯(William Stanley Jevons)。经济学上的「杰文斯悖论」指出,当技术的进步提高了资源的利用效率并大幅降低使用成本时,该资源的总消耗量不但不会减少,反而会呈现爆发式增长。

TypeSafe AI 给 Jev 定下的价格是每百万输入 token 仅需 0.042 美元,输出免费。按照这个资费,一天进行 1 万次业务决策,单月成本在 120 美元左右。而在以往,如果使用同等准确率的顶级推理大模型,每月账单会直奔 3.5 万美元。

作为参与过构建 ChatGPT、共同发明 RLHF 的核心研究员,Diogo Almeida 的反思带着一种行业局内人的冷酷。在他看来,整个行业被困在「优化人类自然语言」这条死胡同里太久了。计算机之间协同并不需要抑扬顿挫的修辞,机器需要的是明确的指令与概率。

一旦这种廉价幻象被打破,架构设计的转向便不可逆转。大模型正在退回它原本该在的位置:它不应该当中央处理器,它更适合做前端的公关发言人。

「判断」和「生成」分家

Jev 的大火,撕开了“智能是一块铁板”的传统认知。它证明了有些工作需要推理和表达,而有些工作只需要快速判断。把两者绑在一起,是一种结构性的浪费。

在 Jev 催化的新范式里,一个 AI 系统不再只有单一的大脑,而是开始走向分工:

  • 直觉模型 -> 承担海量的毫秒级判断,便宜得像自来水。
  • 生成模型 -> 仅在真正需要向人类输出成段文字、起草复杂文档等少数节点被唤醒。

当一个判断的成本从几美分降到万分之一美分,开发者不再只是把原来的工作做得更便宜,而是开始做以前根本不会做的成千上万次判断——给每条数据库记录加一个语义过滤器,给每次工具调用加一个安全审查。

这不是降本增效,这是 AI 基础架构从「中央集权」走向「分布式分工」的起点。