Jev爆火硅谷!哑巴AI卷疯14万开发者

  新智元报道

  就在今天,整个硅谷都被 Jev 刷屏了!

  发布仅三天,它就被 Vercel、Cloudflare 和 LangChain 等主流平台迅速集成,有人说,我们即将迎来自动化智能的大爆发!

  而这场狂欢的主角,竟然是一个不会说话的大模型。

  9 月 16 日,ChatGPT 核心发明人之一、InstructGPT 论文第四作者 Diogo Almeida 连发长推,直接向行业开炮,当年那条路,咱们走偏了!

  他端出的解法,便是 Jev。

  它不写文章也不陪聊,你扔一堆乱七八糟的数据进去,它只用 70 毫秒就甩回一个带概率的判断,输出 token 永久免费。

  然后,整个事态就彻底失控了。

  不到 36 小时,就有多达 14 万名开发者如饿狼般涌入内测。

  现在,Jev 的用例已经冒出来几百个。

  有人给 Mac 糊了个语音助手,「打开备忘录,新建一条……」话还没落音,App 已经秒开。

  还有人拿它审 PR,一次 7 万分之一美元,1000 个 PR 才花 7 美分,同样的活交给 Opus 5 得烧掉 14.5 美元。

  就连老大哥谷歌都坐不住了。

  Gemma 官方账号火速发了条「DiffusionGemma as Jev」,直接把自家的扩散模型塞进这个新范式,一步去噪、一次性并行给出所有选项的概率,甚至还顺手把视觉能力也给补上了。

  狂欢之下,压着的是一个最致命的老问题,智能到底是什么?

  七十多年前图灵定下考题,机器能不能思考,看它能不能在对话里骗过人。整个行业从此朝着「把话说漂亮」狂奔,而 ChatGPT 几乎把这条路走到了极限。

  或许,这是 AI 史上最大的一次胜利,但也是最大的一次跑偏。

  我们花了七十年、烧了千亿美元,终于教会机器把话说得比人漂亮,然后发现自己造出来的东西,依然什么都不敢让它自己决定。

  背后的原因在于,我们荒谬地把「嘴」当成了「脑子」。

  地球上的智能演化了几亿年,绝大多数生死攸关的决策,在被「说」出来之前就已经做完了。至于语言,不过是最后几十万年才长出来的一层薄皮。

  在 Almeida 眼里,ChatGPT 和 Claude Code 没有任何代差,同属一个旧时代。

  而 Jev,就是他砸向新时代的第一份答卷,把嘴缝上,只留判断。

  聊天超人三年了

  说好的「真自动化」在哪?

  故事的主角,名叫 Diogo Almeida。

  他是 OpenAI 早期最核心的研发人员之一,是 RLHF 和 InstructGPT 的核心奠基人。

  但在 ChatGPT 爆火之后,Diogo 却陷入了深深的怀疑。

  他写道:

  在共同发明了 ChatGPT 之后,我一直在问自己:为什么超人类的聊天模型没有带来 AGI?

  这么聪明的 AI,到今天还得靠人类盯着才能干活。根本做不到真正的自动化,也就是让软件中无人值守时自己决策。

  他发现了一个致命问题:RLHF 让模型学会了取悦人类,却也让它们在系统自动化场景里变得极其不可靠。

  当年让 ChatGPT 一夜封神的 RLHF,教给模型的是「怎么回答能讨好人类」。

  而这套机制从第一天起,就是为「辅助」而生的。模型干的每件事,最后都得有个人看一眼。

  你现在指望它去跑无人值守的硬核业务?对不起,它从一开始就没受过这种训练。

  更致命的,是他这两年才想明白的一件事:你优化什么,就会得到什么。而「字符串」,恰恰是世界上最难优化的东西。

  为了让长文本不跑偏,训练时就得把模型调得过度自信,逼它主动丢掉那些低概率的选项,把输出按在主干道上。

  这样做的代价就是,当大模型信誓旦旦跟你说「这事我有八成把握」时,这「八成」全是水分,你根本不敢信。

  换句话说,在文字输出上追求绝对的可靠性,是在逆着生成式 AI 的底层原理干活。

  Diogo 意识到,让 AI 拥有「好口才」,反而成了 AI 融入万物代码的最大绊脚石。

  既然文字这么难管,那干脆就别让它说话了。

  于是,他果断从 OpenAI 辞职,创办了 TypeSafe AI,从底层训练架构开始推倒重来。

  现在,他带着他的答案——Jev 模型,杀回来了。

  System One:一个「哑巴」AI 的降维打击

  Diogo Almeida 给 Jev 起了个新名字,叫 System One 模型。

  出处是诺奖得主卡尼曼的《思考,快与慢》。系统一,就是那种不用过脑子、凭直觉瞬间给出的本能判断。

  Jev 用法非常简单。

  你输入一段极其混乱的状态(比如一封炸毛的客诉邮件,或者程序卡壳时的代码),它会输出一个类型化的决策,并附带精确概率。

  在此期间,它不会生成任何一个字。

  官方文档也只给了三种交互姿势:

  1. Choice,从给定选项里挑一个;

  2. Score,给个具体分数;

  3. Noul,甩出一个 0 到 1 之间的概率值。

  每个答案都带着所有选项的概率分布,外加一个整体置信度。

  直接的结果就是,零幻觉。

  因为模型的工作只是给划定好的几个选项分配概率。选项之外的东西,它想编也编不出来,程序拿到手的永远是一个合法的值。

  至于「快」,也是同样的逻辑。

  大模型是一个 token 一个 token 往外挤,Jev 把所有输出并行采样,一次性全给完。

  做一次判断,Jev 端到端只要 70 到 500 毫秒,同样的活交给前沿大模型,要 3 到 329 秒。

  输出 token 免费的底气也源于此。

  既然没有逐字生成的过程,那就没有值得计费的输出。对此,博客原话非常嚣张:「便宜到根本不值得计费」。

  TypeSafe 只对输入收费,每百万 token 仅收 0.042 美元。对比一下,Astra 和 Fable 5.1 的输出定价是每百万 token 50 美元。

  支撑这一切的,是一种叫 RLCD(校准决策强化学习)的新训练法。

  RLHF 奖励的是「人类看了很爽」;RLCD 奖励的则是「你给的概率,得和你的实际命中率咬合」。模型说 0.9,那就必须有九成的时候是正确的。

  官方没细说技术原理,但给出了一条结论:置信度越高,准确率越高。

  在用法上,Jev 把「可组合性」玩到了极致。一个复杂的决策,可以直接拆碎了并行去问。

  比如审一份商业计划书,把市场规模、技术可行性、差异化全拆开,分别拿一个精准概率,软件最后再做拼图。

  Almeida 的原话是,零样本+通用=可编程。任何一个判断都能用几行代码描述清楚,根本不需要微调。

  这和他当年做 InstructGPT 时下的赌注一模一样,只要底座足够通用,颠覆性的用例会自己长出来。

  TypeSafe 放出了两个很有说服力的演示。一个是让 Jev 实时打《毁灭战士》,每秒做 10 次决策,一小时算力成本仅需 7 美元左右。

  另一个是维基百科的超链寻路,从几千个链接里精准锁定目标,单次候选上限高达 255 个。

  落到业务代码,画面是这样的。

  扔一段客诉给 Jev 问「客户是不是在暴怒」,它可能回 0.9,也可能回 0.1。

  如果你的软件拿到的是 0.9,那么它就会直接拉响红色警报;如果拿到 0.1,可能就会扔进低优工单。整个过程,不需要任何人去读那封邮件。

  博客直言,Jev 和现有大模型的关系不是替代,而是「双核搭档」。

  大模型在前面负责吭哧吭哧干活,Jev 在旁边花几十毫秒,用概率给这活儿打个分,看合不合格。能过就放行,不能过直接打回重写。

  但这一切的代价是,Jev 在面对需要一步步推导的数学推理时,顶多只有 GPT-4 的水平;并且,目前也不支持图像输入。

  在一个绝大多数人还在围绕「文字生成」找用例的时代,主动放弃文字输出,无疑是一场巨大的冒险。

  Jevons 悖论:AI 经济的核裂变

  Jev 这个名字,取自经济学中的「杰文斯悖论」:蒸汽机效率越高,烧掉的煤反而越多。

  Almeida 把模型命名为 Jev,野心昭然若揭。

  他在押注一个未来:当 AI 决策的成本趋近于零,速度快到令人发指时,开发者对 AI 决策的需求不会减少,而是会像大爆炸一样席卷所有代码!

  过去,大模型太贵太慢,我们只在最核心的地方使用 AI。

  但现在,如果每一次智能判断只需要 0.04 美分,只需要几十毫秒,那么,你的代码里,将长出成千上万个微小的、敏捷的「神经网络突触」。

  据我所知,这是通往基于 AI 的经济革命的最短路径。

  —— Diogo Almeida

  这也是他给「AGI 为什么还没来」的答案。

  我们一直陷入这样的误区,以为 AGI 就是一个爱因斯坦式的超级大脑,越聪明越好,越会说越好。

  而 Almeida 的解法是反过来的,先让机器闭嘴,先让它可靠,再让它便宜到可以随手用。

  当百亿个极速、廉价、可靠的「智能细胞」嵌进全球软件的基础设施,一张超越人类想象的自动化网络,就已经形成了。

  如果他赌对了,若干年后回头看,从 ChatGPT 开始的这三年,会被写成一段奇怪的弯路。

  而拐弯的地方,就是今天。

  参考资料:

  https://x.com/testingcatalog/status/2099968075861008781

  编辑:摩西 Aeneas