一台双臂机器人正在把杯子收进箱子。香蕉和胡萝卜先后出现在桌面上,它要用空闲的手把它们分别收走,同时不能中断原来的清理任务;等操作者再说“把你收走的第二件东西放进箱子”,机器人还得记住第二件是胡萝卜。这不是三个独立回合,而是同一条持续视频流里的重叠任务。
上海交通大学、香港中文大学等机构的研究者在 9 月 23 日提交的 ARMS 论文中,把这种场景称为“always-on”机器人:指令会临时加入,机器人过去的动作会改变当前环境,两只手还可能争抢同一空间。团队没有训练更大的动作模型,而是在约 50 亿参数的 π0.5 骨干周围增加三组异步更新的上下文模块。作者报告,ARMS 在其组合任务指标上达到 45%,同设置下最强的四个主基线为 28%。
这个结果真正改变的不是单项抓取能力,而是评测问题:机器人能否在不中断时间线的情况下,把“刚看见什么、两只手正在做什么、自己此前做过什么”同时带到下一次动作决策里。
传统 VLA 会切换任务,ARMS 要求原任务继续运行
多数视觉—语言—动作模型接收一条指令,完成一个回合,再从重置后的环境开始下一项任务。SwitchVLA 已经让模型能在执行中响应新指令,但其目标是平滑切换任务;ARMS 进一步要求新动作交给空闲手,前台任务不能因此停下。记忆也不只保存眼前世界,而要记录“哪只手在什么时候对哪个物体做了什么”,供后续语言指令查询。
研究者据此构造了四类任务:在前台任务运行时触发一条长期有效的规则;用语言回忆机器人此前的动作;寻找被机器人自己移动过的目标;以及两只手都忙时按预设优先级推迟新需求。组合成功率 EAS 的门槛很高:同一条不间断轨迹里,前台任务、所有触发规则、回忆对象和超载排序必须全部正确,任一环节失败都算整条失败。
三个模块把实时观察、自身状态和动作历史写进同一上下文
ARMS 复用 π0.5 的视觉头持续扫描视频。只有预设条件满足时,视觉门才唤醒较重的推理与动作路径,避免模型在没有事件时反复生成动作。
第二个模块读取画面和关节状态,用一句短文本告诉骨干每只手正在抓取、释放、伸手还是空闲,以及两臂的计划路径是否冲突。模型据此决定把新动作交给空闲手,还是等待当前动作结束。这里的碰撞判断并不是独立的几何规划器;论文还使用关节速度限制和人工急停,因此实验中的“不干扰”不能等同于独立安全系统已经得到验证。
第三个模块把完成过的动作压缩成带物体、手臂和时间顺序的记录。新指令到来时,相关记录被重新写入上下文。物体与记忆条目的关联依赖已存对象 ID 和“最后已知身份”假设:这能区分先后处理的同类物体,却仍依赖阶段化数据提供的身份连续性。
三路上下文异步更新,动作骨干按需读取;感知和记忆不必等机械臂执行完才继续工作。论文把贡献限定为这些模块的整合与动作来源记录,并没有提出新的骨干网络、规划器或调度器。
45% 是约 150 次实机评测中的全条件成功率
ARMS Dataset 的核心来自一台 Cobot Magic 双臂平台。作者收集约 200 条每条持续数分钟的分阶段视频流,以及约 1200 条短技能示范,覆盖约 6 种双臂技能和 15 类物体。训练和验证按完整视频流做 90/10 划分,回忆测试另用未见过的同义指令。
主对比约为每种方法 150 次实机试验。四个基线与 ARMS 使用相同的 π0.5 初始化、微调数据和骨干训练预算,ARMS 额外训练三组上下文模块。按四类任务的评测数量加权后,ARMS 的 EAS 为 45%,SwitchVLA 为 28%,差 17 个百分点;固定频率 VLA、MemoryVLA 和“识别器接控制器”分别为 16%、24% 和 19%。
45% 不能读成单个标准任务的成功率。它是作者为这套组合场景定义的加权指标,论文 v1 没有给出四类任务各自的评测数、重复训练结果或置信区间。它证明的是在同一作者数据与同一骨干设置下,保留三类上下文比只解决记忆或任务切换更有效;它还不足以建立跨平台的通用排名。
去掉任一类上下文,组合任务都会明显退步
消融结果支持“提升来自整合”这一判断。移除动作记忆后,回忆准确率从 72% 降到 31%,EAS 从 45% 降到 32%;保留相同记忆容量但去掉“哪只手、何时动作”的来源标签,EAS 为 38%。这说明收益不只来自给模型更多历史 token,动作的主体和顺序本身也是信息。
移除具身状态头后,前台任务延续率从 76% 降到 58%,双臂不干扰率从 78% 降到 68%,EAS 为 34%。把异步并发换成硬中断的影响更大:前台延续率降到 41%,双臂不干扰率降到 38%,EAS 只剩 30%。在这套实验里,决定差距的不是更大的骨干,而是新任务出现时是否知道哪只手空闲、是否保留原任务、以及之后能否追溯自己的动作。
“持续运行”目前最长只验证到十分钟量级
作者另做了三轮随机任务排列,每轮 20 次。在至少 10 分钟、不中途重置的视频流里,ARMS 的记忆保持指标为 67%,对应最强基线为 30%;单张 80 GB 加速卡上,触发到决策的中位延迟低于 200 毫秒。论文没有报告延迟尾部、显存随时间变化、能耗,也没有展示小时或天级运行,因此“always-on”首先是一种不按任务重置的评测范式,不是已经验证的全天候服务能力。
数据本身也把困难控制在可标注范围内:物体由人员按脚本放入,长期规则预先定义,双手繁忙时的优先级来自数据集固定标签。阶段化脚本能自动产生动作、碰撞和顺序标签,但也把流程先验带进训练与评测。截至 v1,作者写的是“将公开”数据集和构造代码,尚未提供可供独立复现的发布地址。
所以 45% 的另一面同样重要:即使环境、触发条件和优先级都经过设计,仍有 55% 的组合轨迹失败。ARMS 把长期机器人问题从“每轮重新开始”推进到“在同一时间线上继续工作”,下一步决定它能否走出实验室的,不是再加一个单项分数,而是公开数据与代码后,其他平台能否在同类物体、突发指令、未知优先级和更长运行时间里复现这 17 个百分点的差距。

