在 Devin 的创造者 Cognition 那篇广为流传的博客「不要构建多智能体」中,有一句话被反复引用:「上下文工程是 AI agent 工程师的头号工作」。这句话的潜台词是,在 2026 年,限制 Agent 能力的早已不是模型「不够聪明」,而是模型在长周期任务中「记不住该记的、忘不掉该忘的」。
当一个编码 Agent 在 SWE-bench 任务中消耗超过 1400 万 token——相当于把整本《战争与和平》读三遍——并且大部分内容是不再相关的工具输出和失败的尝试时,它不是在「思考」,而是在「溺水」。
过去两年,上下文压缩被当做一个成本优化问题来研究:怎么用更少的 token 表达同样的信息。但 2026 年上半年密集出现的四篇工作——ACON、Focus Agent、LCLM、VISTA——共同指向了一个更根本的转变:上下文压缩正在从被动的后处理变成 Agent 原生架构的第一等公民。压缩不再只是为了省钱,它在改变 Agent 的推理质量、任务完成率,乃至谁有资格成为长周期 Agent 的操作者。
问题:Context Bloat 的三重困境
Agent 的上下文膨胀不是一个问题,是三个纠缠在一起的问题。
成本困境最直观。SWE-bench 单任务 1400 万 token 的消耗意味着,如果一个十人工程团队每天跑 20 次 Agent 任务,仅 API 费用就可能超过一个小型团队的月薪。即使是最激进的 AI 采纳者,也在收缩预算——Uber 5000 名工程师在四个月内耗尽了全年的 AI 预算。
推理退化更隐蔽但同样致命。Anthropic 在上下文工程指南中明确指出:LLM 如同人类,存在有限的「注意力预算」。Transformer 架构的 n² 注意力机制意味着每增加一个 token,模型就需要在更多 token 对之间分配注意力。当上下文充斥着失败的尝试、重复的工具输出和已经解决的子任务时,模型在真正关键的决策点上反而「失焦」。ACON 论文中的实验量化了这个效应:通过压缩去除无关信息,小型语言模型在长周期 agent 任务上的性能提升了高达 46%。
溢出困境是最硬的天花板。无论模型厂商如何拓展上下文窗口(128K、1M、甚至无限),只要 Agent 持续运行,token 消耗最终总会超出窗口——或者更准确地说,超出模型能有效利用的范围。如 Cognition 博客所述,即使单线程线性 Agent 能走得很远,「你最终还是会撞上限制」。
旧路线:三条平行的技术路径
在 2026 年之前,上下文压缩主要沿着三条技术路线发展,但它们都有一个共同特征:压缩是发生在 Agent 外部的事情。
Hard Prompt 压缩——以微软的 LLMLingua 系列为代表——直接操作 token 序列,用小模型计算每个 token 的困惑度,剔除低信息量的部分。它在 GSM8K 等基准上能做到 20 倍压缩而仅损失 1.5% 准确率。但这种方法对 Agent 的多步交互结构缺乏理解:它不知道哪些工具输出在未来可能被重新引用,哪些失败的尝试恰恰是避免重复错误的信号。
Soft Prompt 压缩走得更深——它把长文本压缩成嵌入向量而非自然语言 token。Princeton 的 AutoCompressors 用 150 个 summary vectors 替代 6,144 个 token;ICAE(ICLR 2024)用 LoRA encoder 压缩后供冻结的 decoder 消费。但这些方法需要修改模型架构或训练流程,对 GPT-4 和 Claude 这样的闭源 API 完全不适用。
KV Cache 压缩在推理层面操作——SnapKV 基于注意力分数选择重要的键值对,PyramidKV 发现不同层的注意力分布存在「金字塔信息漏斗」而差异化保留。但这类方法有一个被 VentureBeat 称为「工程兼容性困局」的致命弱点:它们与现代生产推理引擎(vLLM、SGLang)不兼容。
更根本的问题是,这三条路线都把 Agent 视为一个被动的上下文消费者。压缩策略是由外部规则决定的——上下文达到 95% 时触发压缩,按固定比例裁剪——而 Agent 对自己的上下文状态一无所知。
2026 年的转向:四篇工作,一个方向
从 2026 年 1 月到 6 月,四篇论文在互不知情的情况下各自推进,却共同指向了同一个范式转移。
Focus Agent:让 Agent 自己决定何时忘记
今年 1 月提交的 Focus Agent 论文中,作者提出了一个反直觉的设计灵感:黏菌(Physarum polycephalum)。这种单细胞生物在探索食物时采用一种特殊的策略——先向外扩张探索,找到营养源后收缩网络、巩固关键路径,舍弃不再需要的分支。
Focus Agent 将这种策略移植到了 LLM Agent 上:Agent 不再被动等待外部触发器来压缩上下文,而是自主决定何时将关键发现巩固到一个持久的「Knowledge」块中,并主动修剪原始交互历史。在 SWE-bench Lite 的测试中,Focus Agent 平均执行 6.0 次自主压缩,将 1490 万 token 减少到 1150 万(22.7%),单任务最高节省 57%,且准确率丝毫不降。
关键洞见不在于数字。而在于上下文曲线从单调递增变成了锯齿形——探索时增长,巩固时坍缩。Agent 不再只是信息的消费者,而是自身记忆的主动管理者。
ACON:在自然语言空间优化「遗忘策略」
如果 Focus Agent 回答的是「什么时候压缩」,ACON(微软,ICML 2026)回答的则是**「怎么压缩」**——而且是针对 Agent 任务的特殊需求。
ACON 的核心创新在于将压缩策略的优化放到了自然语言空间。它不是训练一个 neural compressor,也不是设计启发式规则,而是生成和迭代优化一份自然语言的压缩指南。这套指南告诉 Agent:在压缩环境观察时保留什么(状态变化、未完成目标)、在压缩交互历史时保留什么(关键决策、失败原因)。
更关键的是它的优化机制:通过分析压缩导致任务失败的案例,反推指南中的缺陷并迭代修正。这种「failure-driven guideline optimization」使压缩从一刀切的 token 删减变成了语义敏感的上下文管理。
实验结果相当显著:ACON 在 AppWorld、OfficeBench 和 Multi-objective QA 三个 agent 基准上将峰值 token 用量减少了 26-54%,同时任务成功率超过现有压缩基线。而最具冲击力的发现是:小型语言模型在 ACON 压缩下,长周期 agent 性能提升了高达 46%——压缩不只是降低了成本,它让小模型获得了参与 agent 任务的门票。
LCLM:Encoder-Decoder 压缩的生产级复兴
LCLM(Latent Context Language Models)来自 NYU、Columbia、Princeton 等六所机构,解决的是一个工程问题而非算法问题。
KV cache 压缩方法虽然在学术基准上表现尚可,但「与现代生产推理引擎不兼容」这一事实使其在工业界几乎零采用。Encoder-decoder 架构在原理上更优——它用一个小 encoder 将长 token 序列压缩为 latent 向量,再由 decoder 消费——但此前的工作在精度-效率曲线上始终落后于 KV cache 方法。
LCLM 团队通过系统性的架构搜索和持续预训练(每个变体在超过 350B token 上训练),将 encoder-decoder 压缩推向了新的 Pareto 前沿。一个 0.6B 的 encoder 搭配 4B decoder,在 4x、8x、16x 压缩比下均维持了可用的准确率,且压缩速度更快、峰值内存更低。
但 LCLM 对 Agent 最关键的贡献在于一个设计细节:它保留了标准的 KV cache 结构,因此与 vLLM 和 SGLang 等生产推理框架完全兼容。更重要的是,LCLM 支持一种「掠过-解压」模式——Agent 可以先在压缩后的上下文上快速扫描,发现相关段落后再自适应地展开完整内容。这相当于给了 Agent 一个「目录」,而非把所有书页塞进它手里。
VentureBeat 对这项工作的报道标题一语中的:「Context compression finally works in production」。
VISTA:Agent 的「本体感知」仪表盘
如果前三篇工作分别在「何时压缩」「如何压缩」「如何高效压缩」上推进,VISTA(6 月底提交)则提出了一个更基础的问题:Agent 根本不知道自己的上下文长什么样。
VISTA 论文的核心论点是:前沿语言模型对自身的上下文状态是「本体感知盲」(proprioceptively blind)的。仅从 prompt 本身,模型无法感知各上下文区块的大小、新旧程度、使用频率——而这些恰恰是「保留还是丢弃」决策所需的关键信号。
作者的假设大胆但克制:合格的上下文管理能力已经「潜伏」在现有模型中,缺失的不是训练出来的策略,而是一个让模型能感知自身状态的界面。
VISTA 是一个无需训练、模型无关的中间层。它将工作内存表示为有类型、可寻址的区块,在运行时暴露每个区块的 token 消耗、时间新鲜度和访问历史——就像一个给 Agent 装上的「本体感知」仪表盘。被归档的区块不是被丢弃,而是以完整保真度的可恢复载荷形式保存。
在 LOCA-Bench 上,VISTA 将 Gemini-3-Flash 的得分从 22.7% 拉升至 50.7%,且提升幅度随着上下文压力增大而增大。消融实验进一步确认:仪表盘本身的价值超越了归档和恢复工具——提供「看见自己」的能力才是核心。
范式转移:从「被动的后处理」到「Agent 架构的一等公民」
将这四篇工作放在一起,一幅新图景浮现了。
上下文压缩正在经历三重转变:
第一,从被动到主动。 Focus Agent 和 VISTA 分别从决策权和感知层将压缩的控制权交给了 Agent 自身。不再有外部的 95% 阈值触发压缩——Agent 根据自己的探索节奏和信息密度自主决定何时巩固、何时丢弃。
第二,从 token 操作到语义理解。 ACON 的自然语言压缩指南和 failure-driven optimization 意味着压缩不再是「删除低信息量 token」的统计操作,而是理解「什么对未来决策仍然重要」的语义判断。这需要 Agent 级别的推理能力,而不是更聪明的 n-gram 模型。
第三,从成本优化到能力增强。 ACON 的 46% 小模型性能提升和 VISTA 的「上下文压力越大提升越大」指向同一个事实:压缩是一种能力使能技术。它让受限于上下文窗口的小模型能胜任长周期任务,让本就会溢出窗口的超长任务得以完成。这与 Cognition 和 Anthropic 在工程实践中的洞察一致——Cognition 明确提出引入专门的压缩模型来处理长周期任务,Anthropic 在 Claude Code 中实现了 compaction 作为「长周期任务的第一道杠杆」。
LCLM 的作者之一 Tom Goldstein 在接受 VentureBeat 采访时说了一句耐人寻味的话:「我们训练了能理解上下文的模型,而不是简单地压缩字节。」这句话概括了整个领域的认知升级。
尚未解决的问题
但范式转移不等于问题解决。四个开放性挑战仍然突出。
压缩的不可逆损失。精确数值、硬约束条件和隐式偏好——这些信息在被抽象为摘要或 latent 向量时最容易丢失。ACON 通过 failure-driven optimization 部分缓解了这个问题,但无法根本解决。正如 Anthropic 在其上下文工程指南中警告的:「过度激进的压缩可能导致微妙但关键的上下文丢失,其重要性要到后来才会显现。」
压缩与推理的竞速。LCLM 的独立 encoder 虽快,但仍增加了推理前的预处理步骤。对于实时性要求高的 Agent 场景,压缩的时间成本是否值得 token 节省,是一个需要逐任务评估的工程决策。
安全边界的新战场。2025 年已有研究(CompressionAttack)发现,压缩器的熵基过滤机制可被对抗性利用,soft compression 的攻击成功率高达 0.98。当压缩从成本优化升级为 Agent 能力的关键组件,它同时也成为新的攻击面。
标准化的缺失。目前每篇工作都提出了自己的压缩接口和评估方式——ACON 用自然语言指南,LCLM 用 encoder-decoder 架构,VISTA 用区块化仪表盘。它们互不兼容,也没有统一的基准来衡量「压缩保留了多少 Agent 级的决策信息」而非「压缩损失了多少 token 级的困惑度」。
上下文压缩不再是优化项
2026 年上半年这四篇工作的共识可以浓缩为一句话:上下文压缩不再是附加的优化项,而是 Agent 架构的一等公民。
当 Agent 从「回答一个问题」变成「完成一个持续数小时甚至数天的任务」,上下文管理就变成了基础设施问题——就像操作系统需要内存管理一样。MemGPT/Letta 在 2023 年就已提出将上下文管理抽象为 OS 层的洞察,但当时更多是概念性的。2026 年的这些工作正在把概念变成可部署、可验证的工程方案。
最值得关注的长期趋势不是某个具体方法的胜出,而是压缩决策权的转移。从外部规则到 Agent 自主判断,从固定触发到适应任务节奏——Agent 正在从被动的「上下文消费者」变成主动的「上下文管理者」。Cognition 的那句话或许需要更新了:上下文工程不只是 AI agent 工程师的头号工作,它正在变成 Agent 自己的头号工作。

