AI不能当背锅侠：从苹果的DRI原则看人机责任边界
原文: Directly Responsible Individuals (DRI)
Simon Willison指出AI代理不应成为项目直接责任人（DRI），因为机器无法承担真正的后果，这揭示了AI在组织管理中不可逾越的问责红线。
- DRI是苹果公司的管理概念，指对项目成败负最终责任的个人，强调人类独有的问责能力。
- AI代理无法成为DRI，因为它们没有主体意识，不能像人类一样为决策承担后果。
- IBM早在1979年就警告：计算机不能被问责，因此绝不能做管理决策，这一原则在今天依然成立。
- 组织在引入AI时必须清晰划界：AI可以辅助决策、执行任务，但最终责任必须由人类承担。
Simon Willison最近的一条博客引发了一个看似简单，却在AI时代异常关键的问题：我们该不该让AI代理成为项目的“直接责任人”（Directly Responsible Individual，简称DRI）？他的答案是斩钉截铁的“不”。
DRI这个硅谷管理术语源自苹果，经过GitLab等公司的推广，指那个对项目成败负最终责任的人。它不仅仅是“负责人”，更是一种“问责锚点”——如果项目出问题，就是这个人要站出来解释、承担。这个角色的核心要件是人类独有的：能理解后果并承受其重，无论是职业信用、心理压力还是法律风险。
为什么AI承担不了这种责任？ 试想一个场景：你让AI驱动的工作流自动处理客户订单，某天它因为“幻觉”误读了一封邮件，导致百万订单发错地址。谁来担责？AI吗？你无法让它写检讨、扣工资，更不能让它上法庭。最终，责任会回溯到设计流程、部署AI，或本该监督它的人类身上。机器没有主体性，所谓的“AI问责”在组织层面是一句空话。
这揭示了一个深层趋势：AI越能干，责任越不能模糊。 随着AI Agent日益强大，我们很容易陷入“全权委托”的幻觉——既然它能自动写码、回邮件、做决策，那不如就让它直接负责某个模块。但这种做法恰恰违背了管理学的铁律：权责对等。当AI行使权力却无需担责时，整个系统的风险会急剧累积。IBM在1979年培训幻灯片上的那句话——“计算机永远不能被问责，因此绝不能做管理决策”——放在今天不但没有过时，反而因为AI的渗透力变得更为紧迫。
对组织和个人来说，这意味着什么？ 组织在引入AI时，必须像设计代码架构一样设计“责任架构”。每条自动化流水线、每个Agent，都需要明确定义它的“人类DRI”。这个人不仅要懂技术，更要有权限和勇气在AI出错时按下暂停键。对于个人使用者，这条原则同样适用：你可以用AI撰写报告、分析数据，但署名的是你，向老板解释数据逻辑的也是你。AI是你的增强工具，不是你的替身。
一个反常识的角度：AI越强，人越累？ 表面看，AI帮我们干活，应该减负。但实际上，它要求我们具备更高的批判性思维和监控能力。就像自动驾驶技术“解放”了司机，却让司机在关键时刻必须瞬间接管，注意力反而不易保持。同样，当AI流畅地生产内容时，我们更要警惕其中的错误，这意味着更深度的认知参与。DRI概念恰好提醒我们：这种“累”是一种必须承担的代价，因为我们始终是站在责任之链最末端的人类。
Simon的思考只有寥寥数语，却像一根针，刺破了技术乐观主义的气泡。在铺天盖地的“AI替代人类”的叙事里，别忘了组织是人的组织，责任的重量只有人的肩膀才能扛起。下一次，当你准备把项目托付给AI时，不妨先问问自己：谁是这件事的DRI？如果答案不是某个具体的人，那么也许你还未准备好启动它。
分析由 BitByAI 生成 · 阅读原文