少花几万 Token,让智能体记住经验:ALTK-Evolve 与 ACE 的记忆工程对决
原文: Thinking of ACE? We Can Do It with Fewer Tokens
不压缩经验、按需投放,ALTK-Evolve 用检索式指南大幅降低智能体推理时的 Token 开销,揭示记忆工程从“堆上下文”向“精准投递”演进。
- 智能体失败往往不是缺知识,而是缺“如何可靠调用工具”的经验,这类经验可从历史轨迹中自动提取
- ACE 与 ALTK-Evolve 都拒绝压缩经验,采用计数而非摘要的方式保留每一条教训
- ACE 使用全局剧本每步注入,ALTK-Evolve 采用核心高频指南加按需检索的投递策略
- 投递方式的差异直接决定 Token 账单,精准检索比全量注入更经济且可扩展
背景:智能体为什么总在“知道怎么做”和“真正做对”之间翻车?
给一个大模型智能体一个多步骤任务,比如跨应用对账、拆分账单或查找特定资源,它失败的原因往往不是不懂原理,而是不知道如何可靠地调用接口、如何解析分页、如何处理空值。模型拥有知识,但缺少“使用知识的经验”。最近,智能体记忆工程开始尝试把智能体自己走过的弯路变成可复用的教训,在不更新权重、无需人工标注的前提下,让智能体越用越稳。
拆解:ACE 与 ALTK-Evolve 的共识与分歧
这两套系统都基于同一个直觉:把智能体的历史轨迹提炼成“教训”,在推理时喂回去。它们的名字不同,容器不同,但核心结论出奇一致——不要压缩。ACE 明确指出“简短偏见”和“上下文坍缩”是经验管理的两大杀手,因此选择保留详尽的逐条剧本,并为每条记录有效/无效计数器。ALTK-Evolve 也采用“支持计数”,不同任务反复验证的教训独立保留,绝不把丰富的经验压缩成几句口号。
真正的分水岭在“投递”。ACE 的做法是每步都把完整剧本注入上下文,相当于给模型发一本厚厚的操作手册。ALTK-Evolve 则把投递当成旋钮:先保留一个由高频教训组成的固定核心,再根据当前任务按需检索少量相关指南。前者保证信息充足,但 Token 开销随步骤线性增长;后者像给模型配了一个随叫随到的“经验助理”,只在需要时递上对应的那一页。
趋势洞察:从“堆上下文”到“精准投递”的范式转移
这件事揭示了一个更深层的趋势:智能体记忆正在从“上下文堆叠”走向“可检索的经验库”。当经验条目达到数百上千时,全量注入不仅烧钱,还会稀释关键信号。支持计数和按需检索的组合,让系统既能保留多样性,又能控制上下文长度。未来,这类“经验路由”很可能成为智能体架构的标准组件,与工具调用、规划模块并列。
实用价值:你怎么判断该用哪种?
如果你的智能体任务相对固定、步骤较短,全量剧本的简单粗暴可能足够。但一旦涉及跨应用、多步骤或长会话,按任务检索高频教训能显著降低 Token 成本并减少上下文干扰。工程上可以从小做起:先记录失败模式,按支持度排序,再用轻量检索在关键步骤注入。别急着上复杂循环,先让“经验可查”跑通,收益就已经很明显。
反常识:不压缩反而更省
很多人直觉认为“经验多了就该总结”,但总结会抹平边界条件,导致模型在边缘场景继续踩坑。保留原始教训并按需投递,看似冗余,实则通过精准匹配减少无效 Token。少花 Token 的秘诀,往往不是把话说短,而是把话说到点子上。
分析由 BitByAI 生成 · 阅读原文