任务和故障一起换掉,RoboVAD 最佳微平均帧级 AUC 只有 67.4% | AGIDaily
AGI Daily
资讯日报词条论文人物新创

任务和故障一起换掉,RoboVAD 最佳微平均帧级 AUC 只有 67.4%

2026-09-15 / 共 2,491 字

RoboVAD 论文

一只机械臂把方块送向容器,夹爪却在半路松开。对人来说,物体掉落一眼就能看出;对只见过“抓取失败”的视频检测器来说,换成倒米或套环任务后再遇到“碰撞”或“放置失败”,异常的运动和场景都变了。

这正是 9 月 15 日公开的 RoboVAD 基准刻意制造的压力。作者让测试阶段的任务与故障类型同时不出现在训练集中,9 种方法的帧级 micro-AUC 最高只有 67.4%。同一套实验里,作者的监督模型在熟悉任务和熟悉故障上达到 94.6%,到了双重跨域设置只剩 66.7%,相差 27.9 个百分点。

这不是说机械臂只有六成多的任务能成功。RoboVAD 衡量的是监控模型能否给异常帧排出更高分,而不是机械臂是否完成任务。它揭示的缺口更具体:当机器人进入训练数据没有覆盖的动作和错误组合时,原本负责触发暂停或恢复的视觉监控层,也会遭遇自己的分布外问题。

62 万帧把“新任务”和“新故障”分开测试

RoboVAD 来自真实桌面机械臂,而不是仿真。作者用一套 SO-ARM101 主从遥操作系统采集 1078 次执行,两台固定相机以 1920×1080、每秒 30 帧同步记录。数据共 620,979 帧、5.75 小时,其中 34,900 帧被标为异常,占全部帧的约 5.62%;这些帧组成 1570 个有起止时间的异常事件。

五种任务分别是单方块搬运、多方块搬运、堆叠方块、倒米和套环。五类异常包括抓取失败、碰撞、放置失败、物体掉落,以及本应释放却仍留在夹爪中。异常既可能来自遥操作失误,也可能由采集者主动制造。一次执行可以连续出现多个异常,甚至在发生异常后仍完成目标,因此这里的标签描述的是某段物理交互出了问题,不是整次任务的成败标签。

数据按完整执行划分,来自同一次执行的两个视角不会被拆到训练集和测试集。单方块搬运、多方块搬运和堆叠进入源任务;倒米与套环只用于测试新任务。训练集中的已见故障是物体掉落和抓取失败,碰撞与放置失败则留给测试。由此形成四种协议:任务和故障都见过、只换故障、只换任务,以及两者同时更换。

这个设计比简单地多收几段失败视频更重要。此前的 Handover 数据集聚焦人机交接,用视频、力矩和机器人状态判断交接结果;BotFails 覆盖 10 种家庭和工业任务,并进一步区分无害异常与真正影响任务的失败。RoboVAD 的增量,是把任务迁移和故障类型迁移正交拆开,并统一为逐帧定位问题,让“见过什么”成为可控制的实验变量。

双重跨域让榜首易位,也让监督优势消失

作者比较了机器人故障检测、自监督视频异常检测、弱监督检测和语言引导检测等方法,并提出两种以光流为输入的 FlowJigsaw。监督版使用训练集中的正常与异常片段;自监督版只学习正常运动,通过时间方向、运动扰动和补全任务形成异常分数。

结果没有出现一套方法从熟悉场景一路领先。熟悉任务和故障时,FlowJigsaw-Supervised 的 micro-AUC 为 94.6%,是该列最高值;只换故障时,只学习正常运动的 FlowJigsaw-SSL 反而以 79.6% 领先;只换任务时,监督版以 72.0% 居首;任务和故障一起换掉后,自监督版以 67.4% 成为最高值。UR-DMU 也从熟悉设置的 88.5% 降到双重跨域的 63.9%,减少 24.6 个百分点。

这里的 AUC 是随着报警阈值变化,将真阳性率与假阳性率的权衡汇总成一个数。micro-AUC 把所有帧汇总后计算,较长视频贡献更多;macro-AUC 则先按每次执行计算再平均,让每次执行权重相同。双重跨域时,micro-AUC 最高的是 FlowJigsaw-SSL 的 67.4%,macro-AUC 最高的却是 UR-DMU 的 71.9%。所谓“最佳方法”取决于究竟更重视总体帧,还是每次执行都被平等对待。

光流消融进一步说明,显式运动信息在这批数据上很重要。监督模型只看 RGB 时,熟悉设置和双重跨域的 micro-AUC 分别为 49.9% 和 35.1%;换成双视角光流后升至 94.6% 和 66.7%。自监督模型也从 50.0% 和 32.5% 升至 73.6% 和 67.4%。这组结果支持“运动偏离比单帧外观更适合这批机械臂故障”的解释,但只来自作者两种模型的内部消融,不能外推为所有机器人监控系统都应舍弃 RGB。

排名本身也不宜过度解读。双重跨域 micro-AUC 的前两名只差 0.7 个百分点,论文没有报告多随机种子重复结果、标准差或置信区间。不同协议包含的任务、故障和帧分布也不同,部分较弱方法在双重跨域上的 AUC 反而高于熟悉设置;这说明四列适合回答各自场景下谁能把异常帧排在前面,不适合直接当作难度等距的统一阶梯。

AUC 还不是一套能接管安全闭环的报警器

RoboVAD 把此前容易被混在一起的两件事拆开了:检测器是否看见视觉偏离,以及这段偏离是否值得机器人停机。BotFails 配套的 FIDeL 正是先找异常,再用语义过滤排除背景变化等无害偏离。RoboVAD 的标签已经收窄到真实物理操作故障,但评测仍只要求模型给每一帧打分,没有把分数变成实际的暂停、求助或恢复动作。

这也是 67.4% 最容易被误读的地方。数据中异常帧只占约 5.62%,论文没有为部署选择固定阈值,也没有报告该阈值下每小时误报多少次、漏掉多少次故障、异常发生后多少毫秒报警,以及报警能否提高最终任务成功率。评测使用重叠视频片段离线计算分数,作者也把在线检测和机器人恢复留作未来工作。因此,它能证明当前方法在新任务与新故障组合上排序能力有限,不能证明某套系统已经或尚未达到现场安全要求。

数据边界同样明确:全部视频来自一套 SO-ARM101 和一个桌面环境,只有五种任务、五类故障;两名作者只对 50 次执行做了独立复标,逐帧标签和异常类别的一致性系数分别为 0.79 和 0.71。Zenodo 已开放一个约 6.86GB、CC BY 4.0 许可的数据包,但论文仍是首版预印本,尚无第三方复现结果。

RoboVAD 真正把下一步问题变得可测量:在更换机器人本体、相机、场地和控制策略后,跨域排序是否仍成立;选定报警阈值后,误报、漏报和延迟能否满足具体工作流;接入恢复策略后,监控是否真的减少损失。只有这些指标与帧级 AUC 接上,视觉异常检测才从一张排行榜变成机器人可以依赖的运行时防线。

来源

  • RoboVAD: A Large Cross-Domain Evaluation Benchmark for Anomaly Detection in Robotic Arm Manipulation Videos · arXiv
  • RoboVAD dataset · Zenodo
  • Failure Identification in Imitation Learning via Statistical and Semantic Filtering · arXiv
  • A Multimodal Handover Failure Detection Dataset and Baselines · arXiv

评论

登录后即可参与评论。

加载评论中…

相关文章

  • UMI-Bridge 两阶段训练流程及三项真机任务、机器人示教用量对照图

    UMI-Bridge 用动作锚点压缩机器人示教量

    2026-09-16

  • R2S-Eval流程图:从真实环境校准仿真、采集策略执行视频,再由视觉语言模型成对比较并用Bradley–Terry模型汇总排名

    用仿真视频给六种机器人策略排名,视觉模型与人工偏好一致率应为90.9%

    2026-09-03

  • Neverwhere 中真实扫描、3D Gaussian Splatting 近景与完整仿真场景的对照

    机器人先在 67 座数字场景里试错,逼真仿真仍没消除泛化缺口

    2026-09-14

  • CADWorld 论文展示同一三棱柱任务的人类参考结果与多种 Agent 输出对比,外观相近的模型仍可能因结构或建模过程错误而失败
AGI Daily跟踪世界 AI 进展
邮件栏目主题RSS
定制投稿招聘广告
关于MCPTermsContact

CAD Agent 画得像还不够,CADWorld 把工程文件纳入判分

2026-09-21

  • SafeHarness 在桌面机械臂任务中绕开障碍物完成抓取与放置的流程对比

    机器人 Agent 看见酒瓶仍会撞上,安全约束不能只写在提示词里

    2026-09-17

  • Cobot Magic 双臂机器人一边收拾杯子,一边依次处理香蕉和胡萝卜,并在随后执行回忆指令

    机器人不再每回合失忆:ARMS 用异步上下文把组合成功率推至 45%

    2026-09-23