- 简介生产环境中AI智能体的失效，较少源于其推理能力不足，而更多是因为它们无法有效管理自身推理所依赖的上下文内容：包括对话历史、冗长的提示词（prompts）、庞大的工具定义，以及急剧膨胀的工具输出结果。智能体在自身不断累积的历史信息中“溺亡”，同时每一轮交互还需承担持续增长的token开销，从而导致对话内部及跨对话场景下关键信息的遗漏与召回失败。当前主流应对思路将此问题简单视为存储与检索问题。我们认为，这种视角过于狭隘。对智能体“心智中所持内容”的主动管理，本质上是一个完整的生命周期过程，而不仅仅是一项静态存储任务：它涵盖决定应记忆哪些内容、从中提取并结构化关键信息、为不同类型的数据选择最适配的存储机制、在保留溯源依据的前提下进行信息整合与遗忘、动态判断当下所需的相关信息、前瞻性预判后续交互所需的上下文，并在严守token预算约束的前提下，对上下文进行高效压缩而不丢失核心语义。在真正严肃的生产实践中，这一机制的运作范围并非局限于单个用户，而是需覆盖组织层级的完整作用域——从个体到团队、部门乃至整个企业。我们将这一系统性能力命名为“智能体上下文管理”（Agentic Context Management, ACM），并将其解构为五大基础原语（primitives）：架构设计（architecting）、数据摄入（ingesting）、范围界定（scoping）、前瞻预测（anticipating），以及压缩与整合（compacting & consolidation）。随后，我们从经济学角度论证：朴素的上下文累积方式会使token成本随对话长度呈二次方增长；粗粒度摘要虽可将成本压至线性，却会引发准确率的断崖式下降；唯有经过验证的上下文压缩技术，才能在实现线性成本增长的同时，完整保持语义保真度。我们介绍了一个参考实现方案——Maximem Synap，该系统以多租户服务形式落地上述五大原语，并在第6节详述的配置下，在LongMemEval基准测试中取得92%的得分，在LoCoMo基准测试中达到93.2%的得分。最后，我们指出当前现有评测基准尚未涵盖的三个关键维度：响应延迟（latency）、token利用效率（token efficiency），以及上下文老化抵抗能力（context-rot resistance）；并进一步展望该领域的发展前沿——即面向决策层级与组织层级的上下文建模与协同治理。
-
- 图表
- 解决问题生产级AI代理失败主因并非推理能力不足，而是无法主动管理其推理上下文（如对话历史、长提示、复杂工具定义与输出），导致上下文膨胀、token成本激增、跨轮次/跨用户记忆丢失——这是一个被误判为单纯检索问题、实则关乎代理‘心智生命周期’的系统性挑战。
- 关键思路提出Agentic Context Management (ACM)这一新学科范式，将上下文管理重构为涵盖架构设计、摄入、范围界定、前瞻预测、压缩与整合的五大原语（primitives）的动态生命周期过程；强调组织级上下文层次（而非单用户）、预算感知的保真压缩（非粗粒度摘要），并首次建立token成本-保真度的经济分析模型：仅经验证的压缩（validated compaction）可实现线性成本增长且无精度悬崖。
- 其它亮点提出首个ACM参考实现Maximem Synap（多租户服务）；在LongMemEval（92%）和LoCoMo（93.2%）上显著领先；实验验证了朴素累积→二次方成本、粗略摘要→线性成本但精度断崖、验证压缩→线性成本+高保真三类策略的经济分界；论文明确指出当前基准缺失三大维度：延迟、token效率、上下文腐化（context-rot）鲁棒性；开源状态未在摘要中声明；未来方向包括决策级上下文建模与组织级上下文治理。
- LangChain/LLamaIndex的内存模块（静态存储导向）；MemGPT的分层内存与自我反思机制；Llama-3-Instruct的上下文窗口扩展工作；'Lost in the Middle'（Liu et al., ACL 2023）揭示长上下文信息定位失效；'Contextual Compression'（Gao et al., EMNLP 2023）的启发式压缩；以及近期关于上下文遗忘（contextual amnesia）和工具输出爆炸（tool-output bloat）的工业实践报告（如Anthropic's 'Context Fatigue' whitepaper, 2024）
提问交流