在 Devin 的创造者 Cognition 那篇广为流传的博客「不要构建多智能体」中，有一句话被反复引用：「上下文工程是 AI agent 工程师的头号工作」。这提醒开发者：长任务的表现不仅取决于模型能力，也取决于系统能否保留相关信息、清理已经无用的记录。
Focus Agent 论文的一组 SWE-bench Lite 实验中，基线系统运行 5 个任务的累计 token 用量超过 1400 万。这是多任务、多轮交互的总消耗，不代表单个任务或单次上下文的长度；反复输入工具输出和失败记录，也会增加处理负担。
过去两年，上下文压缩研究常关注一个成本问题：怎么用更少的 token 表达同样的信息。ACON、Focus Agent、LCLM、VISTA 这四项近期发布或更新的工作，则开始把压缩作为任务执行过程的一部分来设计。它们同时关注 token 成本、任务完成率，以及小模型能否处理更长的任务。
记录越积越多，成本、推理效果和窗口容量都受影响
Agent 的交互记录持续增长，会带来三类相互关联的问题。
成本压力最直观。上述 5 个 SWE-bench Lite 任务合计消耗超过 1400 万 token。对于一个十人工程团队，即便每天只跑 20 次此类 Agent 任务，也需要核算模型价格、缓存命中率和重复输入带来的费用。预算压力也已出现在实际部署中：据报道，Uber 5000 名工程师在四个月内耗尽了全年的 AI 预算。
推理退化更难直接发现。Anthropic 在上下文工程指南中明确指出：LLM 如同人类，存在有限的「注意力预算」。Transformer 架构的 n² 注意力机制意味着每增加一个 token，模型就需要在更多 token 对之间分配注意力。当上下文充斥着失败的尝试、重复的工具输出和已经解决的子任务时，模型在真正关键的决策点上反而「失焦」。ACON 论文中的实验量化了这个效应：通过压缩去除无关信息，小型语言模型在长周期 agent 任务上的性能提升了高达 46%。
窗口容量也会限制任务继续执行。即使上下文窗口从 128K 扩展到 1M，持续积累而不整理的交互记录仍可能超出容量；即便系统宣称支持无限长度，模型能有效利用的信息范围也不一定同步扩大。如 Cognition 博客所述，即使单线程线性 Agent 能走得很远，「你最终还是会撞上限制」。
三种压缩方法：删减文本、生成压缩向量、减少缓存
此前的上下文压缩研究主要沿着三条技术路线展开，通常由模型或推理系统执行压缩。
Hard Prompt 压缩——以微软的 LLMLingua 系列为代表——直接操作 token 序列，用小模型计算每个 token 的困惑度，剔除低信息量的部分。它在 GSM8K 等基准上能做到 20 倍压缩而仅损失 1.5% 准确率。但这种方法对 Agent 的多步交互结构缺乏理解：它不知道哪些工具输出在未来可能被重新引用，哪些失败的尝试恰恰是避免重复错误的信号。
Soft Prompt 压缩走得更深——它把长文本压缩成嵌入向量而非自然语言 token。Princeton 的 AutoCompressors 用 150 个 summary vectors 替代 6,144 个 token；ICAE（ICLR 2024）用 LoRA encoder 压缩后供冻结的 decoder 读取。但这些方法需要修改模型架构或训练流程，不能直接接入 GPT-4 和 Claude 这类不开放内部表示的 API。
KV Cache 压缩在推理层面操作——SnapKV 基于注意力分数选择重要的键值对，PyramidKV 发现不同层的注意力分布存在「金字塔信息漏斗」而差异化保留。但 VentureBeat 指出，这类方法接入 vLLM、SGLang 等生产推理引擎时，存在工程兼容性问题。
这些方法主要优化信息的表示或存储，未必让 Agent 参与压缩决策。实际系统也常使用外部规则，例如上下文达到 95% 时触发压缩、按固定比例裁剪，较少结合 Agent 当前任务来决定保留什么。
四项研究分别改进压缩时机、保留内容、执行效率和状态展示
这些工作从不同角度推进了上下文管理，其中 ACON 首次发布于 2025 年，2026 年上半年又有更新。
Focus Agent：让 Agent 自己决定何时保存要点、清理历史
今年 1 月提交的 Focus Agent 论文中，作者提出了一个反直觉的设计灵感：黏菌（Physarum polycephalum）。这种单细胞生物在探索食物时采用一种特殊的策略——先向外扩张探索，找到营养源后收缩网络、巩固关键路径，舍弃不再需要的分支。
Focus Agent 将这种策略移植到了 LLM Agent 上：Agent 可以调用工具，将关键发现保存到持久的「Knowledge」块中，并修剪原始交互历史。实验也通过明确提示和定期提醒，鼓励模型频繁整理记录。作者用 Claude Haiku 4.5 测试了 SWE-bench Lite 中 5 个上下文密集任务：Focus Agent 每项任务平均压缩 6.0 次，总用量从 1490 万 token 减少到 1150 万（22.7%），单任务最高节省 57%。两组都完成了 3 个任务，成功率均为 60%；这是一组小样本结果。
对应的上下文曲线呈锯齿形：探索时增长，保存要点后缩短。这让 Agent 能参与管理自己的任务记录。
ACON：分析压缩导致的失败，逐步改进信息保留指南
如果 Focus Agent 回答的是「什么时候压缩」，ACON（微软，ICML 2026）回答的则是**「怎么压缩」**——而且是针对 Agent 任务的特殊需求。
ACON 的核心创新在于将压缩策略的优化放到了自然语言空间。它不是训练一个 neural compressor，也不是设计启发式规则，而是生成和迭代优化一份自然语言的压缩指南。这套指南告诉 Agent：在压缩环境观察时保留什么（状态变化、未完成目标）、在压缩交互历史时保留什么（关键决策、失败原因）。
更关键的是它的优化机制：通过分析压缩导致任务失败的案例，反推指南中的缺陷并迭代修正。这种「failure-driven guideline optimization」使压缩从一刀切的 token 删减变成了语义敏感的上下文管理。
实验结果相当显著：ACON 在 AppWorld、OfficeBench 和 Multi-objective QA 三个 agent 基准上将峰值 token 用量减少了 26-54%，同时任务成功率超过现有压缩基线。而最具冲击力的发现是：小型语言模型在 ACON 压缩下，长周期 agent 性能提升了高达 46%。这说明在这些测试中，减少无关信息也能改善小模型的表现。
LCLM：用编码器压缩长文本，兼顾准确率与推理效率
LCLM（Latent Context Language Models）来自 NYU、Columbia、Princeton 等六所机构，关注压缩效果与工程部署如何兼顾。
一些 KV cache 压缩方法在基准上表现尚可，但仍有接入生产引擎的难点。Encoder-decoder 架构提供了另一种路径——它用一个小 encoder 将长 token 序列压缩为 latent 向量，再由 decoder 读取——但此前的工作在精度-效率曲线上始终落后于 KV cache 方法。
LCLM 团队通过系统性的架构搜索和持续预训练（每个变体在超过 350B token 上训练），将 encoder-decoder 压缩推向了新的 Pareto 前沿。一个 0.6B 的 encoder 搭配 4B decoder，在 4x、8x、16x 压缩比下均维持了可用的准确率，且压缩速度更快、峰值内存更低。
LCLM 的一个部署优势是保留标准的 KV cache 结构，便于接入 vLLM 和 SGLang 等生产推理框架。它还支持先浏览压缩内容、再展开相关段落：Agent 可以先快速扫描，找到需要的信息后再读取完整内容，无须一直保留所有原始记录。
VentureBeat 将这项工作的生产部署潜力写进了报道标题：「Context compression finally works in production」。
VISTA：显示每段记录的长度、新旧程度和访问历史
如果前三篇工作分别讨论「何时压缩」「如何压缩」「如何高效压缩」，VISTA（6 月底提交）关注的是：Agent 能否准确判断自己的上下文状态。
VISTA 论文将模型难以判断自身上下文状态的问题称为「本体感知盲」（proprioceptively blind）。仅从 prompt 本身，模型难以可靠判断各区块的大小、新旧程度和剩余容量，而这些信息有助于决定保留还是归档。
作者的假设大胆但克制：合格的上下文管理能力已经「潜伏」在现有模型中，缺失的不是训练出来的策略，而是一个让模型能感知自身状态的界面。
VISTA 是一个无需训练、模型无关的中间层。它将工作内存表示为有类型、可寻址的区块，在运行时暴露每个区块的 token 消耗、时间新鲜度和访问历史，帮助 Agent 判断哪些记录仍然有用。被归档的区块不是被丢弃，而是完整保存，之后仍可恢复。
在 LOCA-Bench 上，VISTA 将 Gemini-3-Flash 的得分从 22.7% 拉升至 50.7%，且提升幅度随着上下文压力增大而增大。消融实验进一步确认：仪表盘本身的价值超越了归档和恢复工具——展示上下文状态也对结果有贡献。
压缩开始参与任务执行，也可能改善小模型表现
这四项工作可以归纳为三个变化，分别涉及决策权、信息判断和任务表现：
第一，从被动到主动。 Focus Agent 和 VISTA 分别从决策权和感知层将压缩的控制权交给了 Agent 自身。与外部设定 95% 阈值的做法相比，Agent 可以结合探索进度和信息状态参与决定何时整理、何时归档。
第二，从 token 操作到语义理解。 ACON 的自然语言压缩指南和 failure-driven optimization 意味着压缩不再是「删除低信息量 token」的统计操作，而是理解「什么对未来决策仍然重要」的语义判断。这要求压缩策略考虑任务目标和后续决策。
第三，从成本优化到能力增强。 ACON 的 46% 小模型性能提升和 VISTA 的「上下文压力越大提升越大」说明压缩在所测场景中也能改善任务表现：小模型减少了无关信息的干扰，长任务则有机会继续执行。这与 Cognition 和 Anthropic 在工程实践中的洞察一致——Cognition 明确提出引入专门的压缩模型来处理长周期任务，Anthropic 在 Claude Code 中实现了 compaction 作为「长周期任务的第一道杠杆」。
LCLM 的作者之一 Tom Goldstein 在接受 VentureBeat 采访时说了一句耐人寻味的话：「我们训练了能理解上下文的模型，而不是简单地压缩字节。」这也是这些方法共同关注的问题：如何保留对后续任务有用的信息。
仍需处理信息丢失、额外延迟、安全风险和评估差异
这些方法仍有四类问题需要解决。
压缩的不可逆损失。精确数值、硬约束条件和隐式偏好——这些信息在被抽象为摘要或 latent 向量时最容易丢失。ACON 通过 failure-driven optimization 部分缓解了这个问题，但无法根本解决。正如 Anthropic 在其上下文工程指南中警告的：「过度激进的压缩可能导致微妙但关键的上下文丢失，其重要性要到后来才会显现。」
压缩与推理的竞速。LCLM 的独立 encoder 虽快，但仍增加了推理前的预处理步骤。对于实时性要求高的 Agent 场景，压缩的时间成本是否值得 token 节省，是一个需要逐任务评估的工程决策。
压缩带来的安全风险。2025 年已有研究（CompressionAttack）发现，压缩器的熵基过滤机制可被对抗性利用，soft compression 的攻击成功率高达 0.98。当压缩从成本优化升级为 Agent 能力的关键组件，它同时也成为新的攻击面。
标准化的缺失。目前每篇工作都提出了自己的压缩接口和评估方式——ACON 用自然语言指南，LCLM 用 encoder-decoder 架构，VISTA 用区块化仪表盘。这些接口不统一，评估也尚缺少共同口径来衡量「压缩保留了多少 Agent 级的决策信息」而非「压缩损失了多少 token 级的困惑度」。
长任务需要把上下文管理纳入系统设计
这四项工作提示开发者，在设计长任务 Agent 时，应当同时考虑如何整理和保留交互记录。
当 Agent 从「回答一个问题」变成「完成一个持续数小时甚至数天的任务」，上下文管理就会直接影响任务能否继续执行——就像操作系统需要内存管理一样。MemGPT/Letta 在 2023 年就已提出将上下文管理抽象为 OS 层的思路。这些近期工作进一步提供了可测试的工程方案。
后续值得关注的是，哪些压缩决策适合交给 Agent，哪些仍需要外部规则约束。让 Agent 自主管理记录已有实验支持，但还要检验它能否在不同任务中稳定保留重要细节，并控制整理记录本身的成本。
