AI Agent的「剂量学」：你的智能体到底需要多少记忆？

起因：一个被忽略的前置问题 IBM研究团队在上一篇关于ALTK-Evolve和ACE框架对比的文章中，展示了如何向智能体注入“自我蒸馏”的经验指南会影响其准确性和成本。但在这篇新文章里，他们提出了一个更根本、也更容易被忽略的问题：智能体到底需要多少记忆？ 这个问题之所以重要，是因为很多开发者以为给Agent接入一个长期记忆系统、把历史经验一股脑塞进上下文，就能让它自动变得更聪明。现实远非如此简单。

拆解：三种模型，三种剂量反应 研究团队在8个不同规模的模型（从300亿参数到前沿私有系统）上进行了测试，观察到了三种清晰的模式，这揭示了一个关键洞察：智能体的记忆需求与模型自身的能力深度绑定。

1. 强模型（有提升空间）：像DeepSeek-V3.2（671B MoE）这样的大模型，有足够的“容量”吸收和应用全部经验。给它注入完整的经验指南集（包括一些罕见的边缘案例经验），任务完成率能提升9.5个百分点。对这类模型，记忆是“多多益善”——前提是记忆质量高。
2. 较弱或小模型（会被淹没）：对于能力稍逊的模型，如gpt-oss-120b（117B MoE），喂给它全部经验指南反而效果不好，还会增加50%的Token成本。正确的做法是“精选”：一个经过高置信度筛选的核心指南集，外加针对当前任务检索出的几条相关经验。这种方法让它的任务完成率飙升了16.1个百分点，且成本增加极少（仅5%）。
3. 饱和模型（无感区）：像GLM-5（745B MoE）这样的模型，在测试的任务上似乎已经触及天花板。无论注入多少额外经验指南，其性能都没有可测量的提升。这可能意味着模型在这些任务上已经饱和，或者指南未能针对其剩余的失败模式。

趋势洞察：智能体工程的核心是“校准” 这篇文章揭示了一个比技术细节更重要的趋势：构建有效的AI智能体，正在从“能力堆砌”转向“精细校准”。过去我们关注模型有多大、上下文窗口有多长；现在则需要关注：针对你的具体模型和任务，如何配置最优的“外部记忆剂量”。

ALTK-Evolve框架的核心思想也值得注意：智能体的学习发生在模型“周围”，而非模型内部。它不通过微调更新模型权重，而是通过一个闭环——执行任务产生轨迹、从轨迹中蒸馏出行为指南、将指南注入后续推理——来实现经验积累。这更接近人类学习“方法论”而非死记硬背。

实用价值：开发者该怎么想、怎么做？ 对于正在构建智能体应用的开发者，这篇文章提供了直接的操作指南：

1. 停止盲目堆砌记忆：不要简单地认为“接一个记忆库”就能提升Agent性能。你需要为你的模型“配药”。
2. 诊断你的模型类型：首先评估你的基础模型在目标任务上的能力。它是仍有提升空间的“强模型”，还是容易被信息干扰的“弱模型”，或是已接近上限的“饱和模型”？
3. 选择合适的注入策略：根据诊断结果，选择是注入全部高质量指南，还是采用“核心指南+实时检索”的精选策略。文中提到，结合提示缓存（Prompt Caching）技术，即使是全量注入方案在生产环境中也可以控制成本。
4. 关注经验蒸馏的质量：无论剂量多少，指南本身的质量是基石。ALTK-Evolve从成功和失败的轨迹中双向学习，这是确保经验指南有价值的关键。

反常识与意外 最反直觉的一点是：更强的模型未必需要更“精心”筛选的记忆。它们有足够的冗余和理解力去消化全部信息，甚至包括那些看似低频的边缘经验。而较弱的模型则更像需要精细营养配比的运动员，必须摄入最精华、最相关的“记忆营养素”才能发挥作用。这完全颠覆了“给小模型更简单、更少信息”的直觉，反而要求我们为小模型做更复杂、更精细的记忆筛选工作。

原文地址: How Much Memory Does Your Agent Actually Need?