一件衬衫从篮子里被夹起时,机器人面对的不是一个固定形状的物体。袖口可能压在衣身下面,领口可能被遮住,夹爪每拉动一次,后续可见的形状和受力都会改变。要把它取出、摊平、翻面、连续折叠,再放到衣物堆上,任何一步偏差都会进入下一步。
复旦大学、美的集团 AI 研究院与卡内基梅隆大学的研究者在 9 月 9 日提交了 FolDeX。他们报告汇集了 2000 多小时真机数据,覆盖 20 多项操作任务和 10 多种机器人形态,并以衣物折叠为主线建立 FoldChallenge。与只考一次抓取或一个折叠动作不同,这套评测要求策略完成从取衣到最终摆放的整段闭环流程。
FolDeX 更值得关注的地方并非数据总量本身。研究者把真机经验拆成失败恢复、跨任务、跨场景和跨机器人形态四条赛道,追问同一批昂贵数据离开原来的采集条件后还能剩下多少价值。初步结果给出的答案并不对称:失败后的人工接管轨迹能明显改善同一类折衣策略;把不同任务或不同机器人数据直接混在一起,反而会产生动作干扰和遗忘。
一次折衣被拆成连续决策,成功率不再够用
布料难操作,首先因为它没有稳定的几何状态。硬质杯子被抓起后,杯身形状基本不变;衬衫上的一个抓点却可能同时改变袖子、衣身和领口的位置。人能借助视觉、触觉和长期经验判断牛仔布与丝绸的差别,机器人通常只能从相机画面、关节状态和有限的训练轨迹中推断下一步动作。
此前的数据集和基准已经覆盖了问题的不同切面。Flat'n'Fold 收录 1212 段人类演示和 887 段机器人演示,覆盖 8 类、44 件衣物,主要评测抓点预测与子任务拆解;GarmentLab 提供 20 项衣物与可变形物体任务,以仿真环境和仿真到现实部署为重点。FolDeX 的增量是把衣物从随机揉皱状态开始的完整长流程放到真机上,并把中途失败、最终平整度和执行时间一并纳入评价。
论文的主实验每类衣物进行 30 次随机初始状态的真机试验。只有机器人在无人介入的情况下走完整个流程才算成功。FoldScore 进一步把最终折叠质量、整段成功率和完成时间分别按 35%、35% 和 30% 加权,避免两套策略成功次数相同,却把一件衣服折得松散或耗时悬殊时仍被视为同等表现。
这个差异已经出现在基线中。使用 π0 策略时,带训练期实时分块机制的多任务模型平均成功率为 80.75%,略低于四个单任务模型的 82.50%;它的平均 FoldScore 却是 75.59,高于单任务模型的 71.69。单看“有没有完成”,会漏掉折叠质量与效率的差别。
失败轨迹让策略学会回到正轨
传统演示数据往往记录专家如何从正常起点走向成功终点,真实部署产生的偏差状态却很少进入训练集。FolDeX 先让共享策略在真机上运行,由操作员在出错时介入并采集恢复轨迹,再把这些轨迹与独立收集的成功演示合并,用来训练一个重新初始化的策略。
在同一套 π0 多任务基线上,加入衬衫、半身裙、长裤和毛巾的恢复轨迹后,四类任务的平均成功率从 80.75%升至 95.00%,FoldScore 从 75.59 升至 82.53;长裤和毛巾各自达到 100%成功率。这里证明的是特定模型、四类任务和当前采集流程中的收益,而不是所有恢复数据都会有效。论文没有披露恢复轨迹所占小时数、各类失败的分布,也没有报告重复训练的方差。
更关键的机制在于训练分布发生了变化。只看成功演示,策略学到的是“处在正确状态时下一步怎么做”;恢复轨迹补进了“已经抓偏、摊歪或动作未完成时怎样返回可继续执行的状态”。长流程里错误会逐步累积,因此这种覆盖比再增加一批理想起点的成功轨迹更接近部署时真正缺失的数据。
换背景相对容易,换任务和换机器人仍会互相干扰
FolDeX 把三种常被统称为“泛化”的变化分开。跨场景只改变灯光、背景和适度的工作台布局;跨任务会改变物体动力学与动作顺序;跨机器人形态还会改变运动学、相机位置、控制接口和动作空间。三者需要复用的知识并不相同。
研究者报告,策略对灯光、背景和适度布局变化相对稳健。把刚体与可变形物体任务直接联合训练时,动作生成会明显相互干扰;先在一种任务上训练再继续训练另一种任务,又容易遗忘原有动作。跨机器人联合训练或连续训练的问题更严重:即使每种机器人用自己的数据可以学会任务,混合后通常也无法可靠完成整段折衣。
这组观察还不能支持“跨本体学习无效”的结论。Open X-Embodiment 曾把 22 种机器人、500 多项技能和超过 100 万段轨迹汇总训练,并在多种机器人上观察到迁移收益。两者的差别可能来自任务长度、布料动力学、动作表示和训练方法,而不只是数据规模。FolDeX 对跨任务、跨场景和跨本体目前只给出初步定性结果,没有像恢复赛道那样公开逐项对照表;它提出了问题,但尚未给出足以比较方法优劣的数字基线。
实机赛道已经上线,复现说明仍落后于数据规模
FoldChallenge 采用远程提交、现场执行的方式:参赛者提供推理接口,美的侧的机器人发送关节状态和三路相机图像,接收 14 维动作,再按统一的衣物、初始化方式和时限运行策略。论文称评测使用留出实物,并保留可审计的 rollout 视频。这种设计减少了各实验室机器人、复位方式和人工判定不同造成的比较偏差,也把昂贵的真机评测集中到一套硬件上。
训练数据和接口样例已经公开。Hugging Face 上的 Midea-AIRC/Foldbench 数据仓库无需申请即可访问,标注为 CC BY 4.0;GitHub 仓库提供客户端与推理服务端样例。可复现信息仍不完整:截至论文目标日期,数据卡只有许可证,没有解释 68 个压缩分片如何对应论文所称的 2000 多小时、20 多项任务、10 多种机器人和四条赛道;样例仓库也没有训练代码、官方切分或论文基线配置。
因此,FolDeX 当前最可靠的贡献是把真机长流程中的几类数据复用问题放到同一张坐标系里,并展示了失败恢复这一条可量化的收益。接下来决定它能否成为统一赛道的,不是再增加一个更大的小时数,而是公开可重建的数据清单与切分,让外部团队能够复算恢复收益,并在同一协议下给出跨任务、跨场景和跨本体的数值结果。

