“人类不在回路中”：Jon Udell 如何反转 AI 协作叙事
Jon Udell 主张抛弃“human in the loop”的被动说法，代之以“agent-assisted process”，让开发者主动邀请 AI 进入自己的开发流程，从文化层面重塑人机协作关系。
- “人在回路”的叙事实则让机器占据主导，人类沦为辅助监控者
- 提出“代理辅助流程”概念，强调由开发者定义循环，AI 作为团队成员受邀加入
- 在智能体驱动开发中，应避免生成不可审查的 PR，确保代理产出透明可介入
- 重新定义人与 AI 的关系，是转变工程文化和开发实践的前提
Simon Willison 在自己的博客中引用了 Jon Udell 的一段话，看起来只是随手转发，但反映出一个正在蔓延的深层焦虑：当 AI Agent 越来越能自主写代码、提 PR、甚至部署，开发者到底应该站在什么位置？“Human in the loop”这个看似安全的词，其实正在悄悄把主导权交出去。
Jon Udell 的批评很直接——这种说法让人类变成了机器的附属。就像一条自动化流水线，机器干完活了，人类过来看一眼、点个确认按钮。这恰恰是我们不希望看到的未来。他提出的替代词汇是 agent-assisted process，直译过来就是“代理辅助流程”。区别在哪？在于谁拥有那个循环。在一个 agent-assisted 的流程中，loop 是我们开发者定义的，AI 代理是被邀请进来的协作者，而不是反过来，我们被塞进 AI 的闭环里做橡皮图章。
这个想法对 AI 工程化的冲击远比表面看起来要大。如果团队始终把 AI 看成“工具”，就会在设计交互时把人类放到被动监督的角色上，久而久之，我们对系统的理解会退化，判断力会被消解。而一旦把 AI 看成“团队成员”，我们就必须更主动地定义接口、协作协议和审核机制。比如，不能让 AI 直接把一整个功能塞进一个巨大的 PR，而是要求它按照人类约定的方式拆解任务、提供上下文、允许逐步介入。这正是 Jon Udell 所说的“不要产出无法审查的 PR”背后的逻辑。
更深一层看，这个叙事转变也揭示了 AI 工程正在经历的文化断裂。过去我们学的是“如何用工具”，现在要学的是“如何带领非人类成员”。管理者、架构师、开发者需要的新能力，不再是调参或写 prompt，而是设计一套可组合、可观测、可干预的协作流程。就像团队引入一个超级实习生，你得给他制定规范，划定边界，设置检查点，而不是放手让他自己干然后你最后签字。
这件事对普通开发者有什么实际启发？一个立即可行的改变是：在 Code Review 或需求讨论中，开始用“agent-assisted”来替代“AI-generated”。这个词提醒所有人，AI 的产出是在我们给定的上下文中完成的，我们有权拒绝、改写、甚至重构它的工作方式。另一个更具操作性的建议是，为 AI Agent 设置“协作契约”——明确定义它必须提供的中间产物、日志和决策理由，确保它的每一步都是可解释、可回退的。
从更大的趋势看，未来几年内，那些真正应用好 AI 的团队，不会是那些把 AI 当成黑盒自动化的团队，而是那些把“人机协作”从口号变为工程实践的团队。Jon Udell 的话是一个信号：该重新夺回 loop 的所有权了。
原文地址: Quoting Jon Udell
分析由 BitByAI 生成 · 阅读原文