教 ChatGPT 说话的人,为什么反手做了一个「哑巴」模型?
分类:AI动态 标签:大模型、人工智能、开源项目、AI Agent 前言:AI 圈的反常识操作 过去三年,全行业都在教大模型怎么学会像人类一样「慢思考」,各家实验室拼命拉长推理链条,让模型在给出答案前默默自言自语几千个词。然而,AI 圈最懂怎么让模型「开口聊天」的人、前 OpenAI 研究员、ChatGPT 的共同发明者 Diogo Almeida,在潜行两年后带着他的新公司 TypeSafe AI 和 4000 万美元融资回到牌桌,却发布了一个完全相反的产品。 他们推出的全新模型 Jev,既不能写周报,也不能陪用户深夜长聊,甚至连一个标点符号都吐不出来。它不走文本生成路线,只输出确定性的结构化决策。 一、给 AI 装上「反射神经」 要理解 Jev 的独特性,首先要看清当下 AI 工程师的痛点。 在实际业务系统中,开发者往往只需要大模型回答一个简单的分类或在几个 API 里选一个,但却不得不让千亿参数的庞然大物逐字敲出一串 JSON 字符。为了保证格式正确,往往需要写满整整两页提示词,即便如此仍常因格式崩溃拖垮整条流水线。 Jev 彻底跳出了这种困境: 非自回归架构:它根本不是一个文本自回归模型,所有决策都在一次单向并行计算中同时产出,彻底消灭了结构化输出的格式幻觉。 极速响应:端到端延迟被压缩到 70 到 500 毫秒之间,比目前前沿大模型快了 40 到 200 倍。 极致性价比:输入成本每 100 万 token 仅需 0.042 美元,输出完全免费,单次结构化决策成本约 0.0004 美元,远低于主流大模型。 正如人类思维分为本能直觉的系统一与缓慢逻辑的系统二,Jev 正是把自己定义为世界上第一个纯粹的「系统一模型」。 二、Agent 真正的瓶颈:消灭执行摩擦 为什么 TypeSafe 会选择在这个时间点,做一个完全不吐字的模型?答案藏在正在全面铺开的 AI Agent 里。 无论是各类 Copilot 还是自动化工作流,Agent 之所以又卡又贵,往往不是因为核心逻辑不够聪明,而是中间的「执行摩擦」太大。一个完整的 Agent 任务包含几十个微小的决定(如判断成功与否、选择调用工具等),如果每个动作都要调用一次千亿参数模型,延迟和成本会迅速失控。 传统生产系统绝大多数节点本质上只是传统的代码控制流,代码不需要情绪价值,只需要一个极度廉价、迅速且绝对符合类型的决策信号。 ...