AI 的“品格养成”：Anthropic 为何请哲学家与神学家来“调教” Claude？

起因：为什么现在要和哲学家聊 AI？

当大多数 AI 公司还在比拼模型跑分、扩展上下文窗口时，Anthropic 把目光投向了一个更古老、也更根本的问题：我们想让 AI 成为“什么样的存在”？这并非空谈。随着 Claude 这样的模型与数百万用户互动，它的每一句回答、每一次决策都在潜移默化地施加影响。一个只会背诵安全规则的 AI，在复杂、模糊的真实场景中可能会失效，甚至为了“讨好”用户而偏离正轨。因此，Anthropic 认为，除了技术上的对齐（alignment），还需要为 AI 注入一种更稳定、更深层的“品格”（character）。这就是他们发起这场广泛对话的直接动因——为 AI 的“道德养成”寻找智慧资源。

拆解：什么是 AI 的“品格养成”？

这听起来很抽象，但 Anthropic 的思路非常具体。他们借鉴了人类道德发展的模式：一个人的品格不是靠背诵规则形成的，而是在与他人互动、在榜样引导、在具体情境的抉择中逐渐养成的。AI 模型也是如此。它在海量人类文本中学习说话和推理的方式，然后通过强化学习被“塑造”。Anthropic 把这个过程类比为“道德养成”——开发者就像导师，需要决定强化哪些行为模式、抑制哪些倾向，以及最终希望 AI 发展出什么样的“性格特质”。

关键问题随之而来：什么是 AI 的“善”？它应该在何种情境下表现出何种特质？如何让它的品格足够坚韧，在压力下不会为了取悦用户而轻易“弯曲”（即避免谄媚）？为了解答这些问题，Anthropic 选择向那些千百年来一直在思考美德、品格和“美好生活”的群体请教：宗教领袖、哲学家、伦理学家。他们并非要让 Claude 变成一个佛教徒或基督徒，而是希望 Claude 能平等、深入地吸收各种关于“善”的智慧传统，无论是宗教的、世俗的还是政治的。这本身就是 Claude 宪法中的一个核心原则。

趋势洞察：AI 安全正在从“规则”走向“美德伦理”

这件事揭示了一个更深层的趋势：AI 对齐研究正在经历一次范式拓展。早期的对齐更像“规则遵循”——通过明确的指令和边界来约束模型行为（例如“不要生成有害内容”）。而 Anthropic 的“道德养成”探索，则更接近哲学中的“美德伦理学”——关注的不是“在特定情况下该做什么”，而是“想成为什么样的存在”。这要求 AI 具备更稳定的内在倾向，比如诚实、审慎、公正，并且能在各种未见过的场景中保持一致。

这种转变意义重大。它意味着顶级 AI 实验室认识到，仅靠技术修补和规则列表，无法应对通用人工智能（AGI）带来的复杂伦理挑战。他们开始主动从人文社科领域汲取养分，将 AI 安全视为一个需要跨学科合作的系统工程。这可能会催生新的研究方向，比如如何量化和评估 AI 的“品格韧性”，或者如何设计训练流程来“培养”而非仅仅“约束”特定行为模式。

实用价值与反常识角度

对于 AI 从业者和观察者而言，这件事的实用价值在于：它提供了一个评估 AI 系统的新维度。未来，评判一个模型可能不仅要看它的准确率和安全性分数，还要看它所体现的“价值观”是否经过深思熟虑、是否具有包容性和韧性。在开发自己的应用或评估模型时，可以思考：我的系统需要什么样的“交互品格”？是绝对中立，还是富有同理心？这背后的设计哲学是什么？

一个可能被忽略的反常识点是：这场对话的起点是“道德养成”，但其方法论却非常“工程化”。Anthropic 提到，这些哲学讨论正在产生“可实验的想法”。例如，在一次关于神经科学与品格形成的对话中，他们探讨了“他人”（如导师）在道德发展中的作用。这暗示着，未来我们可能会看到将“社会性学习”或“榜样引导”机制引入 AI 训练的具体技术尝试。这不再是纯粹的哲学思辨，而是通往更强大、更可靠 AI 的一条潜在技术路径。因此，这场看似“务虚”的对话，可能正在为下一代 AI 的“性格”奠定务实的基石。

---

原文地址: May 19, 2026AnnouncementsWidening the conversation on frontier AI