闭源公司为开源站台？Anthropic掌门人澄清立场，并揭示中美AI竞赛的两个噩梦
原文: Our position on open-weights models
Dario Amodei 重申 Anthropic 从未主张禁止开放权重模型，并指出真正的安全威胁来自威权政府的秘密军用 AI 和模型滥用，而保护主义禁令对此基本无效。
- Anthropic 从未主张禁止开放权重模型，没有危险能力的开放模型是公共产品。
- 最担心的两个噩梦：威权政府获得军事 AI 优势（与权重是否开放无关），以及强大模型的滥用与对齐风险（开放权重加剧但禁令无用）。
- 开放权重模型一旦发布便无法撤回，恶意使用更难防范，但禁止美国企业使用并不能阻止坏人。
- 真正的危险可能来自完全看不见的秘密军用模型，而非公开的开放权重模型。
起因：一封联名信引发的“冤案”
最近，美国部分官员正在考虑禁止美国公司使用中国的开放权重模型（如 DeepSeek 等）。这让很多科技公司坐不住了，纷纷联名写信表示支持开放模型，反对禁令。而在这场争论中，Anthropic 却被推到了风口浪尖——有人指责他们为了商业利益，暗地里推动禁令。于是，CEO Dario Amodei 亲自下场发文，用一篇长文澄清立场，也顺便阐述了他对 AI 安全的真实恐惧。
拆解：两个噩梦，一种澄清
Dario 开篇就明确表态：Anthropic 从未主张过禁止开放权重模型，那些没有危险能力的开放模型是公共产品，对商业、开发者和研究都有价值。这等于直接否定了“自私闭源公司”的人设。
但他话锋一转，提出自己最担心的两个“噩梦场景”，而它们恰恰无法用保护主义禁令来解决：
首先是国家安全层面：威权政府（尤其但不仅限于中国）可能训练出比美国更强大的 AI 模型，用于获得永久军事优势或对人民进行深度镇压。他强调，“这和模型是否开放权重无关，和是否被美国企业使用也无关”。最可怕的模型可能是秘密训练、只交给军方或安全部门的，完全闭源且不为人知。
其次是滥用和对齐风险：强大的 AI 可能被用于网络攻击、生物武器，或出现严重对齐问题。开放权重模型确实放大了这种风险，因为一旦权重公开，任何人都可以本地运行，难以施加护栏或监控，而且无法撤回。但他指出，禁止美国企业使用根本起不到作用，因为恶意行为者本就不是合法的美国企业。
我们可以这样理解：第一个噩梦是“敌人获得了核武器，但你在争论是否要公开核弹设计图”；第二个噩梦是“恐怖分子可能用公开图纸造炸弹，但禁掉守法公司的使用权没什么用”。
趋势洞察：AI 安全争论进入深水区
Dario 的这份声明，看似是澄清误解，实则揭示了 AI 行业正在进入一个更复杂的博弈阶段。
- 安全叙事的分裂：过去，“开放 vs 封闭”常被简化为“创新 vs 安全”。但 Dario 点明，真正的安全威胁并不在开源社区，而在国家行为体和秘密项目。这让安全讨论从“要不要开源”转向“如何控制尖端模型的扩散与使用”。
- 中美 AI 竞赛的军备化：文中反复提及中国，并引用美国副总统万斯和情报界的威胁评估，显示 AI 已成为大国博弈的核心工具。开放权重模型可能只是冰山一角，水下的军用级模型才是真正的“暗流”。
- 开放模型的“不可逆”特征被强调：一旦权重发布，覆水难收。这给政策制定者提出新挑战——传统的出口管制或企业禁令在软件时代可能完全失效。
实用价值：开发者该如何看待这场争论？
对国内的开发者或企业来说，有几点值得思考：
- 不要被“开放 vs 封锁”的二元叙事带偏。开放模型确实有巨大价值，但使用中要注意来源和潜在的法律风险，尤其涉外业务需关注美国政策变化。
- 模型供应链安全开始浮现。未来可能会像芯片一样，出现“模型出口管制”分区。使用境外开源模型时，建议评估供应链中断的可能。
- 积极参与关于 AI 治理的讨论。Dario 的表态说明，安全与开放不是非黑即白。国内开发者也可以通过实践，证明开放模型能够负责任地使用，推动形成更合理的全球共识。
反常识：闭源公司呼吁理性，真正的危险来自于“看不见的模型”
很多人本以为 Anthropic 会为了生意鼓吹封禁开源，结果 CEO 反而说“没有危险能力的开源模型是公共品”。这提醒我们：商业竞争并不是 AI 安全讨论的全部。更反常识的是，Dario 指出，最可怕的 AI 可能是完全封闭、秘密运行的军事 AI——它们你根本看不见，也无法讨论。当舆论聚焦在开源模型的“危险”时，那些真正可能颠覆地缘平衡的模型，却可能已经在暗处悄然成长。
这篇文章，不仅是一次危机公关，更是给整个行业的一剂清醒剂：如果我们真的关心安全，就应该把焦点放在真正的高风险场景上，而不是在开放带来的平民化创新上过度设限。
分析由 BitByAI 生成 · 阅读原文