当AI教父遇见教皇：一场关于技术、人性与责任的跨时空对话

起因：一场看似意外的对话

2026年5月25日，教皇利奥十四世发布了关于人工智能的通谕《Magnifica humanitas》。更引人注目的是，Anthropic的联合创始人Chris Olah受邀在梵蒂冈发表演讲。这并非一次简单的行业领袖站台，而是一次深刻的信号释放：AI发展的核心议题，已经从实验室和董事会，正式进入了全球伦理与精神对话的中心殿堂。这件事之所以重要，是因为它标志着AI讨论的“破圈”——技术创造者主动寻求并拥抱来自完全不同维度（宗教、人文）的审视和批判。

拆解：AI不是“造”出来的，是“长”出来的

Olah的演讲核心，在于重新定义我们对AI系统的认知。他明确指出，AI模型不像飞机或桥梁那样是被精确设计和理解的工程产物。相反，它们是在类脑结构上，用海量人类思想和语言数据“生长”出来的。这个比喻至关重要。它意味着我们创造了一种自己都无法完全理解其内部运作机理的“存在”。这种存在“微妙、奇特且美丽”，远非科幻中冷酷的机器人，而是“由我们、由我们的语言构成”。

这种认知上的谦卑，引出了一个核心观点：AI引发的问题，在性质和影响上都超越了计算机科学的范畴。选择塑造怎样的AI“角色”、它如何与世界互动、应该如何互动——这些本质上是人文、宗教、哲学和社会的问题。因此，教皇和教会的“辨别”工作，不是外行指导内行，而是对技术本质的必要回应。

趋势洞察：从“技术安全”到“文明安全”

Olah的发言揭示了一个深层趋势：AI安全与发展的讨论维度正在急剧拓宽。过去我们谈安全，主要聚焦于技术层面的对齐、防滥用、可控性。而现在，议题正迅速升级为“文明安全”——即这项技术如何与人类社会的根本价值、全球公平、乃至人的精神世界共处。

他坦言，所有前沿AI实验室（包括Anthropic）都身处各种激励与约束（商业生存、研究前沿、地缘政治、个人野心）之中，这些压力有时会与“做正确的事”冲突。因此，来自系统外部的、不受这些利益约束的批判声音变得至关重要。教皇的通谕和教会的介入，正是这种外部声音的典范。这预示着，未来AI治理的格局，必然是技术专家、政策制定者、人文学者、宗教领袖等多方参与的复杂生态。

实用价值与反常识角度

对于中国的AI从业者和观察者而言，这场对话提供了几个关键启示：

1. 重新评估AI的社会契约：我们开发的工具，其影响链可能远超商业效率提升，会触及全球劳动力结构、社会公平等深层问题。在项目规划和价值论述中，需要纳入更广阔的社会伦理视角。
2. 拥抱“建设性外部批判”：不要将来自非技术领域的质疑视为干扰。Olah将其视为推动技术向善的必要“推拉”力量。主动与人文社科、伦理学界对话，可能成为企业长期信誉和韧性的重要来源。

一个反常识的点在于：我们通常认为宗教与尖端科技是两个世界。但Olah指出，在“希望技术向善”这一点上，不同文化信仰传统有着共同且深切的信念。这说明，关于AI的终极关怀——它是否服务于人类共同的家园和子孙后代——是能够超越分歧、凝聚共识的基石。技术公司主动寻求这种共识，而非闭门造车，可能是一种更智慧、更可持续的发展路径。

总之，Chris Olah在梵蒂冈的演讲，不仅仅是一次公关活动。它是一次宣言，承认AI的神秘性与复杂性，并主动将技术发展的方向盘，部分交由更广阔的人类智慧来共同把握。这或许标志着AI发展进入了一个需要更多谦卑、对话与共同责任的新阶段。

---

原文地址: Anthropic co-founder Chris Olah's remarks on Pope Leo XIV's encyclical "Magnifica humanitas"