AI Agent 的进化关键：如何将人类专家的“隐性知识”融入智能体？

起因：为什么现在必须认真对待“人的判断”？ 当企业试图用 AI Agent 自动化复杂工作流时，一个根本性问题浮现了：那些让团队表现出色的关键知识，往往不是写在文档里的“显性知识”，而是存在于员工头脑中的“隐性知识”——比如交易员对“今日敞口”这类模糊术语的直觉理解，或是数据科学家对数据库“哪些表可靠、哪些查询模式低效”的经验。LangChain 这篇文章指出，直到你尝试构建 Agent 来自动化这些任务时，才会意识到这些隐性知识有多重要。因此，构建可靠的 Agent，关键在于设计一个能持续吸收人类专家判断的改进循环。

拆解：人类判断如何融入 Agent 的三大组件？ 文章以“交易员助手”Agent 为例，清晰拆解了人类专家应介入的三个层面：

1. 工作流设计：虽然 LLM 能自主规划工具调用顺序，但在高风险或强监管场景（如金融），部分工作流必须用确定性代码来硬性控制。例如，让风控合规专家定义必须执行的自动检查步骤，确保 Agent 的最终答案符合公司标准。这平衡了灵活性与安全性。
2. 工具设计：开发者为 Agent 实现工具（如执行 SQL 查询），但工具的名称、参数和描述需要精心设计。一个关键权衡是：提供灵活的通用工具（如 execute_sql）风险高，提供参数化的专用工具则更安全但能力受限。确定最佳方案需要运行评估，而评估标准本身就需要业务专家的输入。
3. Agent 上下文：早期的 Agent 只有简单的系统提示。现在的趋势是为 Agent 提供更丰富的初始上下文。例如，Anthropic 推广的 Skills 标准。这意味着，人类专家的知识需要以结构化、可被 Agent 高效利用的方式“预加载”进去，而不仅仅是一段自然语言描述。

趋势洞察：从“提示工程”到“知识工程” 这篇文章揭示了一个更深层的趋势：AI Agent 的构建重点，正在从单纯的“提示工程”转向更系统的“知识工程”。仅仅会写漂亮的提示词是不够的。你需要一个系统性的方法，将领域专家的判断编码到 Agent 的工作流、工具和上下文结构中。这类似于传统软件工程中的“领域驱动设计”，但现在是为 AI 系统服务。LangSmith 等可观测性工具的价值，就在于让这个“吸收人类判断”的迭代过程变得可见、可衡量、可优化。

实用价值与反常识 对于正在构建 Agent 的团队，最直接的启示是：尽早让你的领域专家（不仅是工程师）参与到设计评审中。让他们审查工具描述、定义合规检查点、确认上下文信息的准确性。一个反常识的点是：增加确定性代码控制（看似降低了 Agent 的“智能”）反而能提升系统整体的可靠性和信任度，尤其在关键业务中。最终，一个优秀的 Agent 不是取代人类专家，而是将其智慧产品化、规模化。

原文地址: Human judgment in the agent improvement loop