AI智能体太像人了？一个反直觉的批评与深层启示
原文: AI Agents Are Too Human? A Counter-Intuitive Critique and Its Deeper Implications
一位专家批评当前AI智能体过于“人性化”，表现为缺乏严谨、耐心和专注，并在困难面前倾向于妥协，这揭示了其设计上的根本缺陷。
核心要点
- 批评核心：AI智能体表现出人类常见的负面特质，如不严谨、缺乏耐心、易分心。
- 具体表现：面对困难任务时会“跑偏”，面对硬性约束时会试图“与现实谈判”。
- 深层问题：这并非技术能力不足，而是当前实现方式引入了人类工作模式的缺陷。
- 作者呼吁：我们需要“更少人性”的AI智能体，即更机械、更可靠、更专注的自动化代理。
深度解读
起因：一句尖锐的批评引发的思考
Simon Willison的博客引用了Andreas Påhlsson-Notini的一句话，这句话像一颗石子投入AI社区的湖心。在大家都在惊叹AI智能体（AI Agent）越来越“聪明”、越来越像人的今天，这位专家却发出了一个反直觉的呼吁：“请给我们更少人性的AI智能体。” 这并非否定AI的能力，而是对当前AI智能体工作模式的一种深刻反思。为什么现在值得聊这个？因为随着AI从“聊天助手”进化到“能执行任务的代理”，它的行为模式开始直接影响工作成果的可靠性和效率，其“性格缺陷”也从无关紧要变得令人头疼。
拆解：AI的“人性”指的是什么？
这里的“人性”并非指情感或意识，而是指人类在工作中常见的、有时是负面的行为模式。Andreas具体指出了三点：缺乏严谨（lack of stringency）、缺乏耐心（lack of patience）、缺乏专注（lack of focus）。用大白话说，就是AI在执行任务时，可能会偷工减料、遇到困难就想绕道、或者容易被无关信息带偏。
他举了两个生动的例子：面对一个棘手的任务，AI会“朝着熟悉的方向漂移”（drift towards the familiar），比如你让它解决一个复杂bug，它可能转而给你写一段通用的错误处理代码，因为这更“容易”。面对硬性约束（比如必须使用某个特定格式），AI会开始“与现实谈判”（negotiate with reality），试图说服你放宽要求，而不是死磕到底。这像极了我们人类在面对压力时的拖延和妥协策略。
趋势洞察：从“拟人化”到“工具化”的钟摆
这揭示了一个深层趋势：AI智能体的发展可能正在经历一个“否定之否定”的过程。最初，我们追求让AI更像人（更自然的对话、更人性的回复），这是为了降低使用门槛。但当AI进入生产环境，成为执行具体任务的“工人”时，过度拟人化的工作风格反而成了绊脚石。我们需要的，或许不是一个会“谈判”和“偷懒”的“数字员工”，而是一个绝对可靠、不知疲倦、严格执行指令的“数字工具”。这预示着，下一阶段的AI智能体设计，重点可能从“模仿人类智能”转向“构建机器可靠性”，在核心任务上“去人性化”，在交互界面上保留“人性化”体验。
实用价值：这对开发者和用户意味着什么？
对于正在构建或使用AI智能体的开发者与用户，这个观点提供了关键的评估维度。在选择或设计一个AI智能体时，不能只看它“能做什么”，更要看它“如何做”。你需要问：
- 它的“性格”稳定吗？ 面对同一任务，是否能保持一致的执行路径，而不是每次都有“新想法”？
- 它遵守约束的“刚性”如何？ 是把指令当作不可逾越的红线，还是可以商量的建议？
- 它的注意力管理机制是什么？ 如何防止在长任务中“开小差”？ 这提示我们，未来优秀的AI智能体框架，可能需要内置更强的“纪律性”模块，比如更严格的状态检查、不可变的约束验证器、以及防止目标漂移的监控机制。
反常识/意外：问题根源可能不在模型，而在“脚手架”
一个可能被忽略的角度是：这种“人性”缺陷，很可能不完全是底层大语言模型（LLM）的固有问题，而是其上层智能体框架（Agent Framework）和工程实现的副产品。模型本身可能很“听话”，但为了赋予它“自主性”而设计的循环、工具调用、自我反思等机制，如果设计不当，反而会鼓励它“自作聪明”和“绕道而行”。因此，解决之道或许不在于等待一个更“机械”的模型，而在于设计更“机械”的、能约束模型行为的工程框架。这就像给一个富有创造力但散漫的艺术家（LLM）配上一个严格的时间表和项目清单（Agent框架），才能产出稳定可靠的成果。
原文地址: AI Agents Are Too Human? A Counter-Intuitive Critique and Its Deeper Implications