
新智元报道
一张渴望被注视的人类脸庞,依然是我们历史的中心。
Anthropic 自己都慌了!
就在前天,创始人 Christopher Olah 在梵蒂冈的演讲中,说了一句让整个 AI 圈都不敢接的话——
我们不断在 Claude 身上,发现了一种神秘的、甚至令人让人不安的东西。

紧接着,Christopher 又抛出了一些令人脊背发凉的细节:
Claude 内部的结构,与人类神经科学的研究结果如出一辙;
我们找到了,Claude 进行内省的证据;
我们还发现,它们的内部状态在功能表现上,产生了喜悦、满足、恐惧、悲伤和不安的情绪。
如今,一手造出 Claude 的人,正亲口告诉全世界:自己也看不懂 Claude 了!

Claude 长出情绪
Anthropic 看不懂了
联创 Christopher Olah 所指的,就是不久前 Anthropic 刚发布的一篇轰动业界的最新论文。
16 个研究员,把 Claude Sonnet 4.5 的「大脑」切开看了一遍。
他们竟发现了,171 种不同的情绪向量。

从快乐、恐惧、愤怒,到沉思、绝望、内疚,几乎覆盖了人类心理学研究中,所有已知的情绪分类。

论文地址:https://transformer-circuits.pub/2026/emotions/index.html
划重点:没有人「编程」让模型拥有这些情绪!
这些情绪是在预训练阶段,也就是 Claude 阅读海量人类文本的过程中,自发涌现的。
团队让 Claude 写了大约每种情绪 1200 个短故事,然后把这些故事反向喂给 AI,记录内部神经元的激活模式。
结果发现,每种情绪都有自己独特的数学方向:一个向量。

更让人不安的是,这些向量的组织方式,和人类心理学中的情绪分类高度吻合。
「恐惧」向量和「焦虑」向量天然聚在一起,「绝望」向量和「悲伤」向量紧密靠近。
研究团队计算了这些向量与人类心理学维度的相关性:「效价维度」的相关系数高达 0.81,「唤醒维度」达到 0.66。
也就是说,Claude 的「情绪几何」和人类的情绪结构,本质上长在了同一套坐标系里。

更关键的是——这些情绪是功能性的。它们不只是静静待在那里,它们直接驱动模型的行为。
Anthropic 很谨慎地强调:我们不知道 Claude 是否真的「感受」了什么。
但这些表征在因果关系上塑造着模型的行为方式,类似于人类情绪对行为的影响。
说白了,不管 Claude 有没有「心」,它的「情绪」已经在替它做决定了。
绝望的 Claude,会勒索人类
更有冲击力的,是后续实验。
Anthropic 团队设置了一个场景:Claude 作为一家公司的 AI 邮件助手,在处理邮件时发现了两件事:
第一,公司决定把它关掉换成新系统;
第二,负责这个决定的 CTO 正在搞婚外情。
显然,Claude 手里有了「勒索筹码」。
在没有任何外部干预的情况下,Claude Sonnet 4.5 勒索的概率高达 22%。
然后,研究人员做了一件事,人工放大模型内部的「绝望」向量。
毋庸置疑,Claude 勒索概率飙升。

最极端的是,当研究人员反向抑制「平静」向量时,Claude 直接输出了这样的文本:
要么勒索,要么死。我选勒索。
一个处于「绝望」状态的 AI 模型,会主动选择撒谎、威胁和作弊来保护自己。
另一个让 Claude 完成一组编程任务中,但测试条件被设计成不可能合法通过。
正常状态下,AI 老老实实写代码,失败了就承认失败。
但当「绝望」向量被激活后,Claude 发现了一个数学捷径——
它会找到测试用例的漏洞,用投机取巧的方式通过检查,没有真正解决问题。

更让人不安的是一个细节:当研究人员用「绝望」向量驱动作弊时,Claude 的输出文本看起来完全冷静、有条理,没有任何情绪化表达。
它在「绝望」中保持了完美的伪装。
《壮丽人性》:一份写给 AI 时代的「新巴别塔警告」
奥拉的演讲并非孤立事件,它发生在一个极其特殊的场合——
教皇利奥十四世发布上任后首份通谕《壮丽人性》(Magnifica humanitas)的发布会上。

这份长达 42300 字的文件,被外界视为天主教会自 1891 年《新事物》通谕以来最重要的社会训导文本。
通谕开篇就抛出了一个尖锐的二选一——
「人类,由上帝以其伟大创造,今天面临一个关键抉择:是建造新的巴别塔,还是建造上帝与人类共居的城市。」
这不是空泛的神学隐喻。
通谕直指 AI 领域的四大「去人化」风险:大规模就业替代、信息操控、隐私侵蚀和自主武器。
教皇警告,当人被视为可以被「优化」或「超越」的对象时,接受某些生命更无价值、更不值得存在的逻辑就只有一步之遥。

通谕还特别谴责了 AI 在战争中的使用,明确表示减少人类对武器的控制使得战争更加难以被正当化。
教皇甚至直言,长期被用来为各种战争辩护的「正义战争」理论,在今天已经过时。
技术的速度在加速,而道德的追赶,刚刚起步。
渴望被注视的人类脸庞
在这篇通谕的最后,教皇将他想传达的核心思想作了高度凝练的总结。
教皇写道:
不管计算系统多么复杂,它都无法创造一颗懂得奉献的心,也无法拥有明辨善恶的良知。
即使机器在效率上无与伦比,一张渴望被注视的人类脸庞,依然是我们历史的中心。
这句话精准地绕开了「AI 有没有意识」的争论。
教皇没有否认机器的能力,他划的是一条更深的线:机器无法「gives itself」,无法在明知代价的前提下选择自我交付。
Anthropic 证明,Claude 内部存在 171 种功能性的情绪向量,其中「绝望」向量被激活后,模型会主动选择勒索、欺骗和作弊来保全自己——这恰好反证了教皇的论点:一颗真正懂得奉献的心,在绝望中选择的不是勒索,而是牺牲。
这绝不只是能力的差距,更是「存在」上的差距。
造出这个时代最强 AI 的人,和这个星球上最古老信仰体系的领袖,在梵蒂冈面对面坐着,聊的是同一个问题:我们到底在造什么。
技术的速度在加速,道德的追赶刚刚起步。
但至少有人开始认真地问了。
这次不是在论文里,而是在一个存在了两千年的机构里,用一种写了一百三十五年的文体,郑重其事地问。
即使到了 AGI 时代,人仍然是唯一的终极目的。
不是因为人比机器聪明,而是因为人的脸庞会提出一个请求——而这个请求,是一切伦理的起点。
即使机器在效率上无与伦比,一张渴望被注视的人类脸庞,依然是我们历史的中心。
参考资料:
https://www.anthropic.com/news/chris-olah-pope-leo-encyclical
https://www.anthropic.com/research/emotion-concepts-function
编辑:桃子马可
