分类:AI动态 标签:人工智能、大模型、开源项目、AI应用


过去四年,整个 AI 行业几乎把所有的算力和资本都押在了一件事上:教大模型说出更流畅的人话。我们习惯了用百亿甚至千亿参数的庞然大物,先吐出一长串思考过程,再包装成礼貌体贴的自然语言,最后让开发者用复杂的正则表达式把需要的答案艰难抠出来。

直到前 OpenAI 研究员 Diogo Almeida 带着他的新模型 Jev 登场。上线仅仅数天,全球开发者围绕它疯狂砸出了近五百个开源项目。大家突然发现,一旦剥离大模型的“表达欲”,原本昂贵而臃肿的 AI 应用,突然轻快得像一阵风。

01 大模型的“神经元”:从哲学家到流水线

智能家居社区 Home Assistant 最近出现了一个名为 HA-Jev 的插件。它的逻辑极其简单:传感器读取洗衣机的功率变化与洗衣房门的状态,然后抛出一个问题给模型:“洗衣机洗完了,衣服是不是被忘在里面了?”

模型不输出任何文字分析,只返回一个概率值。当置信度超过 0.8 时,手机就会弹出一则取衣提醒。一次判断耗时几十毫秒,花费仅 0.000015 美元。

如果把过去调用 GPT 或 Claude 的过程比作雇佣一位全知全能的哲学家来盯监控,那么开发者们现在用 Jev 所做的事,更像是给流水线装上了无数个廉价且反应灵敏的神经元。

在最耗费算力的 Agent 基础设施和日常开发中,这种变化是颠覆性的:

  • 上下文压缩:开发者 Tamara Tran 用 Jev 插件压缩 Claude Code 的上下文。它不做昂贵的归纳总结,而是逐条给历史工具调用的相关性打分,分值低于阈值直接整条剔除。接近 100 万 token 的臃肿上下文,在 1 秒钟内被精简到 8.6 万。
  • 端侧自动化:Droidrun 团队做了一个 mobile-jev 手机操作代理。控制真实 Android 手机打开 Uber、输入起点终点、一路点击直至付款,全程 9 个操作步骤仅耗时 21 秒,没有调用任何传统的文字生成大模型。
  • 游戏与数据清洗:从操控模拟器玩超级马里奥、驱动《毁灭战士》守卫,到一晚上处理 9081 条产品匹配数据(13 分钟跑完,总账单仅 32 美分),Jev 展现出了极致的实用性。

02 杰文斯悖论:暴跌的成本激活边缘场景

Jev 这个名字,取自 19 世纪英国经济学家威廉·斯坦利·杰文斯(William Stanley Jevons)。著名的“杰文斯悖论”指出:当技术的进步提高了某种资源的利用效率,导致其使用成本大幅下降时,该资源的总消耗量不但不会减少,反而会呈现爆发式增长。

TypeSafe AI 给 Jev 定下的价格是每百万输入 token 仅需 0.042 美元,输出免费。以这个资费计算,一天进行 1 万次业务决策,单月成本仅需 120 美元左右。而在以往,如果使用同等准确率的顶级推理大模型,每月账单会直奔 3.5 万美元。

暴跌的成本,瞬间激活了那些此前被判定为“毫无商业价值”的边缘场景。

作为参与过构建 ChatGPT、共同发明 RLHF 的核心研究员,Diogo Almeida 的反思带着一种行业局内人的冷酷。在他看来,计算机之间协同并不需要抑扬顿ッチ的修辞,机器需要的是明确的指令与概率。过去四年 AI 界花费数千亿美元调教出来的语言能力,在严肃的系统工程面前,大部分时间反而是低效的阻碍。

03 “判断”和“生成”分家

回看过去三年的 AI 叙事,主线一直是“大模型越来越大、越来越聪明、越来越全能”。一个模型既能聊天,又能写代码,还能看图做表。整个行业默认“智能”是一块铁板,不可拆分。

Jev 的出现撕开了这块铁板。它证明了有些工作需要推理和表达,而有些工作只需要快速判断。把两者绑在一起,是一种结构性的浪费。

在 Jev 催化的新范式里,一个 AI 系统不再只有“一个大脑”,而是开始出现分工: 感知与决策 -> 海量的毫秒级判断 -> 交给便宜到像自来水一样的直觉模型 输出与交互 -> 复杂的长文本生成 -> 仅在必要时唤醒昂贵的生成式模型

当一个判断的成本从几美分降到万分之一美分,开发者不是把原来的 100 次判断做得更便宜了,而是开始做 10000 次以前根本不会做的判断。

这不仅是降本增效,更是 AI 基础架构从“中央集权”走向“分布式分工”的起点。那么,你会用 Jev 这样的“纯判断模型”来尝试什么全新的自动化创新呢?