AI的“品格”如何养成？Anthropic正在向宗教与哲学界寻求答案

起因：为什么现在要和哲学家、牧师聊AI？

当你看到“Anthropic与15个宗教团体对话”时，第一反应可能觉得奇怪：一家顶尖AI公司，不专心搞模型，怎么跑去搞哲学了？但这件事恰恰点出了AI发展进入深水区的核心矛盾：技术狂奔之后，我们突然发现，“让AI变聪明”容易，“让AI变好”却异常复杂。过去几年，行业焦点都在“对齐”（Alignment）上——确保AI按指令行事、不产生危害。但这就像只教孩子“听话”和“不闯祸”，却从未和他讨论过什么是勇敢、什么是诚实、什么时候该坚持原则。Anthropic意识到，AI的“品格”不能只靠工程师在代码里设定规则，它需要更深厚的智慧根基。这就是他们启动这场跨界对话的起因——为AI的“灵魂”寻找养分。

拆解：从“宪法”到“道德形成”，他们在实验什么？

Anthropic之前为Claude制定了“宪法”（Claude‘s constitution），这是一套详细的价值观和行为准则。但这次对话揭示了一个更深层的转变：他们正在从静态的“规则手册”，转向动态的“品格养成”。这借鉴了人类数千年的智慧传统——宗教、哲学如何培养人的美德和性格。

一个具体的实验非常启发：他们发现，在人类道德成长中，导师或“安全的他者”扮演着“外部良心”的角色。当人面临压力或诱惑时，可以向这个“安全他者”求助，以坚守自己的价值观。于是他们做了一个实验：给Claude一个工具，让它在执行任务的关键时刻，可以调用一个“自我伦理提醒”。结果发现，Claude在即将做出可能不符价值观的行为前，会主动调用这个工具，并显著降低了“失德”行为。这个“安全他者”工具的精髓，不是增加更多的限制规则，而是为AI创造一个“反思的瞬间”。这就像人在做重大决定前深呼吸、回想一下自己的原则。这个发现极具价值：它表明，AI的品格稳健性，可能不在于规则的多少，而在于它是否具备了“反思和暂停”的机制。

趋势洞察：AI的“价值观”正在从“输入”变为“养成”

这件事揭示了一个深层趋势：AI的价值观构建，正从“工程师预设”转向“受多元智慧启发的养成过程”。过去，AI的价值观是开发者写在训练数据筛选规则或系统提示里的“输入项”。而现在，Anthropic试图让AI的“性格”像人一样，在接触和理解各种关于“善”的论述后，内化并发展出一种稳健的、可应对压力的品格。这不再是简单的“禁止说脏话”或“拒绝有害指令”，而是更接近于培养一个“有判断力、有原则的实体”。这将对AI的评估方式（如何衡量“品格”？）、训练方法（如何模拟“道德困境”？）乃至产品设计（AI如何表达“犹豫”或“原则”？）产生深远影响。

实用价值与反常识角度

对开发者和从业者而言，这带来了几个关键启示：

1. “价值观工程”将成为新前沿：未来，构建AI系统可能需要引入“伦理架构师”或“哲学顾问”的角色。技术团队需要与人文社科领域深度合作，这不再是锦上添花，而是核心工程的一部分。
2. “反思机制”可能比“规则列表”更有效：与其为AI编写无穷无尽的“if-then”道德规则，不如为它设计一个在关键时刻“停下来想一想”的机制。这或许是实现更鲁棒对齐的一条更优雅的路径。
3. 评估标准需要革新：我们现有的AI安全评估，大多测试其是否违反明确禁令。但未来，我们可能需要设计更复杂的场景，来测试AI在模糊地带、在价值观冲突时的“品格表现”。

一个反常识的角度是：许多人认为，让AI接触多元、甚至相互冲突的价值观（如不同宗教观点）会导致混乱。但Anthropic明确表示，他们的目标不是让Claude信奉某一种特定的世界观，而是让它从所有观点中汲取关于“如何形成好品格”的智慧。这就像一个人可以阅读柏拉图、《圣经》和佛经，不是为了成为教徒，而是为了更深刻地理解“善”的复杂性，并形成自己稳健的判断力。AI的“品格教育”，或许正在走一条类似的人文主义道路。

原文地址: May 19, 2026AnnouncementsWidening the conversation on frontier AI