研究人员给一台灵巧手机器人补充 100 小时人类触觉经验。在固定五小时机器人预训练数据的条件下,模型的 Contact-F1 从 0.551 升至 0.706,Contact-IoU 从 0.415 升至 0.588;它对三种策略的平均排序也更接近真机结果。
9 月 17 日提交的 DexTouch-WM 论文把触觉世界模型拆成三个终点:预测未来、代替真机做策略评估、生成数据训练策略。人类触觉提高了前两个终点的表现。进入第三个终点后,研究团队用模型生成观测、替换一半真实示教,三种策略的四任务平均成绩均未超过 200 条全真实轨迹训练。
三组结果把瓶颈定位得更清楚:预测更准、排序更接近真机,并不会自动产出适合策略学习的观测。合成数据要进入训练,还需要让策略在模型中闭环改变动作、覆盖失败状态,并筛掉不可信轨迹。
共享触觉布局和 67 维动作坐标连接人手与机器人
机器人触觉数据难扩张,不只是采集慢。不同灵巧手、不同传感器会产生不同形状和物理含义的信号,一套数据往往绑在一套本体上。DexTouch-WM 通过共享传感布局和动作坐标搭建跨本体接口。
采集者双手佩戴压阻式触觉手套、手指追踪器和腕部定位器,头部与手腕相机同步记录画面。每只手套原有 360 个触点,训练保留五个指尖区域与一个手掌区域,共 320 个触点;机器人手上安装相同布局。模型分别编码指尖与手掌,避免把解剖上不相邻的位置误当成图像里的邻近像素。
动作也必须对齐。系统把人手的 25 个三维关键点和腕部姿态重定向到 20 自由度 Wuji 灵巧手,再把左右手腕、左右手关节和相机运动写成统一的 67 维动作表示。由此,人和机器人不仅“摸到的格式相同”,模型收到的未来动作条件也处在同一坐标体系里。
这项迁移依赖共享传感布局、完整标定、时钟同步和动作重定向;在这些条件下,人类交互可以监督同一个机器人世界模型。换一款手套、灵巧手或相机系统,仍需重新解决这套接口问题。
50 至 100 小时区间贡献了主要接触预测增益
作者固定六项机器人任务的五小时预训练数据,只把人类数据从 0 小时增加到 10、50 和 100 小时,再在相同的机器人留出片段上测试。人类的 50 个预训练任务与机器人的六个预训练任务不重叠,因此这一实验衡量的是跨任务迁移,不是给同一任务补更多示教。
从 0 小时人类数据的 Robot-only 版本到 100 小时版本,视觉 LPIPS 从 0.098 降至 0.048,轨迹准确率从 0.891 升至 0.962;触觉侧的 Contact-IoU 从 0.415 升至 0.588,Contact-F1 从 0.551 升至 0.706。按表格重算,Contact-F1 相对提高约 28%,Contact-IoU 相对提高约 42%。
增益并不呈现“多一点就好一点”的平滑曲线。加入 10 小时人类数据后,Contact-IoU 仅为 0.417,Contact-F1 为 0.554,与不加人类数据几乎相同;触觉 PSNR、均方误差等指标还出现小幅倒退。主要变化发生在 50 到 100 小时区间。视觉 LPIPS 在 50 小时已经达到 0.048,继续增加至 100 小时没有再改善,而接触预测仍继续上升。
这些数字验证了作者设置下的人类触觉规模效应。所有缩放实验始终保留五小时机器人监督,只用人类数据训练的效果不在实验范围内。
混合人类数据把平均策略排序相关性提高到 0.844
团队随后把模型用于四项新任务:拿放鞋子、把手机放上支架、叠碗和立起瓶子。每项任务有 300 条机器人轨迹,分成三个互不重叠的 100 条子集。WM-Robot 用 200 条机器人轨迹适配;WM-Mix 则用 100 条机器人轨迹和 100 条额外的人类示教适配。三种策略 FTP-1、π0.5 和 X-VLA 分别在真机与两个世界模型中运行。
WM-Mix 对真机得分的四任务平均 Pearson 相关系数为 0.844,高于 WM-Robot 的 0.646;衡量排序颠倒及真实分差的 MMRV 从 0.025 降至 0.017。人类数据因此替换了一半任务级机器人适配数据,并让平均排序更接近真机。
0.844 的平均相关性可以作为策略筛选信号;替代真机测试需要更大的策略样本和更多匹配运行。每项任务的相关系数只有三种策略这三个数据点,样本极少;每个策略—任务组合也只有 10 次匹配运行。立瓶任务中,两个世界模型都把 π0.5 与 X-VLA 的顺序排反。即使平均相关性提高,单个任务仍可能选错策略。
合成轨迹沿用真实动作,三种策略均未超过全真实训练
最值得保留的负结果出现在数据生成阶段。所谓合成轨迹并非让世界模型从头规划新动作:它保留一条真实轨迹的初始观测和已记录动作序列,只让模型预测后续 RGB 与触觉观测。随后,研究人员把 100 条真实轨迹与 100 条这种合成轨迹组合,替代原本的 200 条真实轨迹训练策略。
| 策略 | 200 条真实轨迹 | 100 条真实 + 100 条 WM-Robot | 100 条真实 + 100 条 WM-Mix |
|---|---|---|---|
| FTP-1 | 0.731 | 0.688 | 0.694 |
| π0.5 | 0.625 | 0.563 | 0.494 |
| X-VLA | 0.500 | 0.506 | 0.400 |
表中是四项真机任务的平均得分。与全真实训练相比,WM-Mix 条件下 FTP-1、π0.5、X-VLA 分别下降约 3.8、13.1 和 10.0 个百分点。WM-Robot 只让 X-VLA 微升约 0.6 个百分点,另外两种策略仍下降。人类数据改善了模型对未来的预测和平均策略排序;在策略训练阶段,WM-Mix 下的三种策略平均得分均低于全真实训练。
另一套生成管线已经出现正向结果。7 月发布的 ViTacWorld 在另一套单臂平行夹爪系统上报告了相反结果:它先用真实策略运行把模型调到下游分布,再让策略在模型中闭环运行,并按任务成功与视觉—触觉合理性筛选 200 条生成轨迹;三种策略加入这些轨迹后都提升了真机成功率。
两篇论文的本体与流程不同,结果共同指向三个生成条件:世界模型要覆盖策略实际访问的失败状态,生成时让策略闭环改变动作,训练前筛掉不可信轨迹。DexTouch-WM 的实验把真实动作序列固定下来,适合隔离“生成观测能否替代真实观测”;策略闭环、失败状态覆盖和轨迹筛选不在本实验范围内。
下一步优化对象是合成数据管线
DexTouch-WM 是一篇预印本,主要实验集中在一套 Tianji 机械臂与 Wuji 灵巧手、相同压阻式触觉布局和四项下游任务;arXiv 页面也未提供代码、权重或数据下载。外部团队目前无法复现 100 小时人类数据的采集质量、标定误差和动作重定向,也无法检查结果能否迁移到不同触觉原理与机器人本体。
论文已经把“人类触觉能否帮助机器人”推进到更准确的问题:帮助的是哪一层。现有证据显示,它能改善特定接口下的未来观测和有限策略排序。下一项关键实验应在同一数据预算下比较固定动作生成、策略闭环生成、成功筛选和失败状态覆盖,并让合成数据在真机策略得分上超过被替换的真实数据。

