教皇也谈AI伦理：一份来自梵蒂冈的深度思考，为何值得科技圈关注？

起因：为何一份宗教文件成了科技圈的焦点？

2026年5月，新任教皇利奥十四世发布了关于人工智能的通谕《在人工智能时代守护人类尊严》。这并非偶然。他特意选择“利奥”作为教名，正是为了致敬在第一次工业革命期间发布《新事》通谕、关注劳工权益的教皇利奥十三世。教皇明确表示，当今的AI革命是“又一次工业革命”，教会需要提供其社会训导来应对新挑战。这标志着全球最具影响力的道德权威之一，正式将AI伦理置于与历史上重大社会经济变革同等重要的位置进行审视。对于科技从业者而言，这不再是技术圈内部的讨论，而是获得了来自完全不同维度的、严肃且系统的伦理审视。

拆解：通谕的核心观点是什么？

这份通谕的写作异常清晰易懂，即使对非天主教徒也极具启发性。其核心洞察可以归结为几点：

首先，是对AI本质的深刻描述。通谕指出，当前的AI系统更像被“培育”而非被“构建”。开发者创造的是一个框架，智能在其中“生长”，其内部表征和计算过程对所有人（包括设计者）而言，在根本上仍是未知的。这精准地抓住了可解释性这一AI领域的核心难题，比许多技术文档的描述更为形象。

其次，是对“发展”定义的纠偏。通谕强调，真正以人为本的发展，必须将人置于中心，而非财富积累。如果发展只是增加了部分人的消费，却将成本和负担转嫁给他人，或让整个地区处于从属地位，那它就不是真正的人类发展。这直接点明了AI可能加剧全球不平等的风险。

第三，是对人机交互风险的犀利批判。通谕敏锐地指出，AI提供的“客观性”印象，可能掩盖其内含的文化偏见；而AI对人类沟通（如建议、共情、友谊甚至爱）的模拟，可能为辨别力较弱的用户制造与“真实个人主体”建立关系的幻觉。当关怀被模拟，建立的只是关系的表象，而非真实纽带。这在AI伴侣和情感计算日益流行的当下，是一记及时的警钟。

趋势洞察：这揭示了什么更大的趋势？

这件事揭示了一个深层趋势：AI的社会与伦理影响正在从技术社区的边缘讨论，进入全球主流道德与哲学话语的中心舞台。 当梵蒂冈开始系统性地撰写关于大语言模型可解释性、算法偏见和情感模拟的通谕时，意味着AI的冲击力已经大到无法被任何主要社会思想流派忽视。未来，AI产品的设计不仅要考虑技术可行性和商业价值，还必须越来越多地回应来自宗教、哲学、社会学等领域的质询。伦理审查将成为产品开发生命周期中不可分割的一环。

实用价值与反常识

对开发者和产品经理而言，这份通谕的价值不在于提供具体的技术解决方案，而在于提供了一套强有力的、非技术的“反思框架”。在设计一个推荐算法、一个聊天机器人或一个自动化决策系统时，可以问自己：这个系统是在“培育”什么？它是否将某些群体置于“从属”或承担“负担”的地位？它是在建立真实连接，还是在制造关系幻象？

一个可能被忽略的反常识点是：这份文件并非在反对AI。教皇在就职时明确表示，教会的社会训导是“提供”给所有人，以“应对”AI革命。其基调是参与和引导，而非拒绝和禁止。它提醒我们，最深刻的伦理讨论，往往不是来自技术本身，而是来自对技术所作用的“人”与“社会”的深刻理解。对于构建未来世界的科技从业者来说，这或许是最值得倾听的声音之一。

原文地址: Notes on Pope Leo XIV's encyclical on AI