当教皇谈论AI：一份来自梵蒂冈的深度伦理指南
原文: Notes on Pope Leo XIV's encyclical on AI
教皇利奥十四世发布关于AI的通谕，以天主教社会训导框架，深刻探讨了AI时代如何捍卫人的尊严、正义与劳动。
核心要点
- 教皇将当前AI革命类比为第二次工业革命，强调教会需回应新挑战
- 通谕将AI系统描述为‘被培育’而非‘被建造’，准确指出了大模型的‘黑箱’与可解释性难题
- 核心伦理关切是‘真正的发展’，反对将技术进步的成本转嫁给弱势群体或未来世代
- 文本写作风格清晰易懂，对非天主教徒也极具启发性，展现了伦理讨论的普世性
深度解读
起因：为什么教皇要写AI通谕？
这绝非一次简单的宗教表态。教皇利奥十四世选择“利奥”之名，直接致敬了在第一次工业革命时期发布《新事》通谕的良十三世。这本身就传递了一个强烈信号：梵蒂冈将当前的AI革命视为与工业革命同等重要的社会转折点。当硅谷的技术乐观主义与社会的普遍焦虑并存时，一份来自全球十亿信徒精神领袖的、系统性的伦理思考，其分量和影响力不容小觑。它试图为狂奔的技术列车，提供一个基于深厚人文传统的“轨道”。
拆解：通谕的核心洞察是什么？
这份通谕最精彩的部分，在于它用极其精准且通俗的语言，触及了AI伦理中最硬核的几个问题。例如，它对大型语言模型（LLM）“黑箱”特性的描述，可能比许多技术论文更一针见血：“当前的AI系统更多是‘被培育’而非‘被建造’，因为开发者并不直接设计每一个细节，而是创造一个让智能‘生长’的框架。” 这个“培育”的比喻，完美捕捉了机器学习模型从数据中涌现能力、其内部机制难以完全被人类理解的本质。它把“可解释性”这个技术难题，翻译成了每个人都能理解的“培育的未知性”。
更深层的是，通谕贯穿了“真正的发展”这一核心伦理标尺。它明确反对一种发展模式：即一部分人的消费增长，建立在将成本和负担转移给他人（如数字劳工、环境）或整个地区之上。这直接点名了当前AI产业中的一些结构性矛盾，比如数据标注工人的处境、算力带来的能源消耗、以及技术鸿沟可能加剧的全球不平等。它提醒我们，技术进步的“效率”和“利润”之外，必须计算“人的尊严”这笔账。
趋势洞察：这揭示了什么更大的趋势？
首先，这标志着AI伦理讨论正从技术圈和学术圈，全面进入主流公共话语和全球性机构的议程。当梵蒂冈发布正式通谕时，意味着相关讨论已成熟到可以形成一套连贯的社会训导。其次，它提供了一种区别于“有效加速主义”（e/acc）和“末日论”的、稳健的“第三条道路”。它既不盲目恐惧技术，也不无条件拥抱，而是坚定地将“人的尊严”置于中心，要求技术发展服务于人，而非相反。这种基于责任和共同福祉的视角，可能对政策制定者、企业领袖和普通公众产生深远的锚定作用。
实用价值：这对我们有什么用？
对于中国的AI从业者和互联网人而言，这份通谕的价值不在于其宗教背景，而在于它提供了一套极其清晰、有深度的伦理思考框架和语言。当你在设计产品、制定策略或进行内部辩论时，可以借鉴这些原则来拷问自己的项目：我们的AI应用是在促进“真正的发展”，还是在无形中转移成本？我们是否尊重了所有参与者（包括用户、数据贡献者、被影响的社区）的尊严？它帮助我们将模糊的“科技伦理”概念，转化为具体可评估的问题。此外，了解这种来自完全不同文化背景的顶级思考，能极大拓宽我们对技术社会影响的认知维度，避免陷入单一的技术决定论叙事。
反常识/意外： 一个可能被忽略的角度是，这份由全球最古老的机构之一发布的文件，其写作质量之高、对技术本质描述之准确，可能超出许多人的预期。它没有使用晦涩的神学术语，而是像一位睿智的学者在清晰论述。这提醒我们，对技术的深刻人文反思，未必来自技术内部，而可能源于那些历经时间考验的、关于人与社会的基本价值体系。在AI时代，这些“古老”的智慧，或许正变得前所未有的“新鲜”和重要。