100 小时人类触觉提高了机器人的接触预测能力 | AGIDaily
AGI Daily
资讯日报词条论文人物新创

100 小时人类触觉提高了机器人的接触预测能力

2026-09-17 / 共 2,709 字

DexTouch-WM 论文

研究人员给一台灵巧手机器人补充 100 小时人类触觉经验。在固定五小时机器人预训练数据的条件下,模型的 Contact-F1 从 0.551 升至 0.706,Contact-IoU 从 0.415 升至 0.588;它对三种策略的平均排序也更接近真机结果。

9 月 17 日提交的 DexTouch-WM 论文把触觉世界模型拆成三个终点:预测未来、代替真机做策略评估、生成数据训练策略。人类触觉提高了前两个终点的表现。进入第三个终点后,研究团队用模型生成观测、替换一半真实示教,三种策略的四任务平均成绩均未超过 200 条全真实轨迹训练。

三组结果把瓶颈定位得更清楚:预测更准、排序更接近真机,并不会自动产出适合策略学习的观测。合成数据要进入训练,还需要让策略在模型中闭环改变动作、覆盖失败状态,并筛掉不可信轨迹。

共享触觉布局和 67 维动作坐标连接人手与机器人

机器人触觉数据难扩张,不只是采集慢。不同灵巧手、不同传感器会产生不同形状和物理含义的信号,一套数据往往绑在一套本体上。DexTouch-WM 通过共享传感布局和动作坐标搭建跨本体接口。

采集者双手佩戴压阻式触觉手套、手指追踪器和腕部定位器,头部与手腕相机同步记录画面。每只手套原有 360 个触点,训练保留五个指尖区域与一个手掌区域,共 320 个触点;机器人手上安装相同布局。模型分别编码指尖与手掌,避免把解剖上不相邻的位置误当成图像里的邻近像素。

动作也必须对齐。系统把人手的 25 个三维关键点和腕部姿态重定向到 20 自由度 Wuji 灵巧手,再把左右手腕、左右手关节和相机运动写成统一的 67 维动作表示。由此,人和机器人不仅“摸到的格式相同”,模型收到的未来动作条件也处在同一坐标体系里。

这项迁移依赖共享传感布局、完整标定、时钟同步和动作重定向;在这些条件下,人类交互可以监督同一个机器人世界模型。换一款手套、灵巧手或相机系统,仍需重新解决这套接口问题。

50 至 100 小时区间贡献了主要接触预测增益

作者固定六项机器人任务的五小时预训练数据,只把人类数据从 0 小时增加到 10、50 和 100 小时,再在相同的机器人留出片段上测试。人类的 50 个预训练任务与机器人的六个预训练任务不重叠,因此这一实验衡量的是跨任务迁移,不是给同一任务补更多示教。

从 0 小时人类数据的 Robot-only 版本到 100 小时版本,视觉 LPIPS 从 0.098 降至 0.048,轨迹准确率从 0.891 升至 0.962;触觉侧的 Contact-IoU 从 0.415 升至 0.588,Contact-F1 从 0.551 升至 0.706。按表格重算,Contact-F1 相对提高约 28%,Contact-IoU 相对提高约 42%。

增益并不呈现“多一点就好一点”的平滑曲线。加入 10 小时人类数据后,Contact-IoU 仅为 0.417,Contact-F1 为 0.554,与不加人类数据几乎相同;触觉 PSNR、均方误差等指标还出现小幅倒退。主要变化发生在 50 到 100 小时区间。视觉 LPIPS 在 50 小时已经达到 0.048,继续增加至 100 小时没有再改善,而接触预测仍继续上升。

这些数字验证了作者设置下的人类触觉规模效应。所有缩放实验始终保留五小时机器人监督,只用人类数据训练的效果不在实验范围内。

混合人类数据把平均策略排序相关性提高到 0.844

团队随后把模型用于四项新任务:拿放鞋子、把手机放上支架、叠碗和立起瓶子。每项任务有 300 条机器人轨迹,分成三个互不重叠的 100 条子集。WM-Robot 用 200 条机器人轨迹适配;WM-Mix 则用 100 条机器人轨迹和 100 条额外的人类示教适配。三种策略 FTP-1、π0.5 和 X-VLA 分别在真机与两个世界模型中运行。

WM-Mix 对真机得分的四任务平均 Pearson 相关系数为 0.844,高于 WM-Robot 的 0.646;衡量排序颠倒及真实分差的 MMRV 从 0.025 降至 0.017。人类数据因此替换了一半任务级机器人适配数据,并让平均排序更接近真机。

0.844 的平均相关性可以作为策略筛选信号;替代真机测试需要更大的策略样本和更多匹配运行。每项任务的相关系数只有三种策略这三个数据点,样本极少;每个策略—任务组合也只有 10 次匹配运行。立瓶任务中,两个世界模型都把 π0.5 与 X-VLA 的顺序排反。即使平均相关性提高,单个任务仍可能选错策略。

合成轨迹沿用真实动作,三种策略均未超过全真实训练

最值得保留的负结果出现在数据生成阶段。所谓合成轨迹并非让世界模型从头规划新动作:它保留一条真实轨迹的初始观测和已记录动作序列,只让模型预测后续 RGB 与触觉观测。随后,研究人员把 100 条真实轨迹与 100 条这种合成轨迹组合,替代原本的 200 条真实轨迹训练策略。

策略 200 条真实轨迹 100 条真实 + 100 条 WM-Robot 100 条真实 + 100 条 WM-Mix
FTP-1 0.731 0.688 0.694
π0.5 0.625 0.563 0.494
X-VLA 0.500 0.506 0.400

表中是四项真机任务的平均得分。与全真实训练相比,WM-Mix 条件下 FTP-1、π0.5、X-VLA 分别下降约 3.8、13.1 和 10.0 个百分点。WM-Robot 只让 X-VLA 微升约 0.6 个百分点,另外两种策略仍下降。人类数据改善了模型对未来的预测和平均策略排序;在策略训练阶段,WM-Mix 下的三种策略平均得分均低于全真实训练。

另一套生成管线已经出现正向结果。7 月发布的 ViTacWorld 在另一套单臂平行夹爪系统上报告了相反结果:它先用真实策略运行把模型调到下游分布,再让策略在模型中闭环运行,并按任务成功与视觉—触觉合理性筛选 200 条生成轨迹;三种策略加入这些轨迹后都提升了真机成功率。

两篇论文的本体与流程不同,结果共同指向三个生成条件:世界模型要覆盖策略实际访问的失败状态,生成时让策略闭环改变动作,训练前筛掉不可信轨迹。DexTouch-WM 的实验把真实动作序列固定下来,适合隔离“生成观测能否替代真实观测”;策略闭环、失败状态覆盖和轨迹筛选不在本实验范围内。

下一步优化对象是合成数据管线

DexTouch-WM 是一篇预印本,主要实验集中在一套 Tianji 机械臂与 Wuji 灵巧手、相同压阻式触觉布局和四项下游任务;arXiv 页面也未提供代码、权重或数据下载。外部团队目前无法复现 100 小时人类数据的采集质量、标定误差和动作重定向,也无法检查结果能否迁移到不同触觉原理与机器人本体。

论文已经把“人类触觉能否帮助机器人”推进到更准确的问题:帮助的是哪一层。现有证据显示,它能改善特定接口下的未来观测和有限策略排序。下一项关键实验应在同一数据预算下比较固定动作生成、策略闭环生成、成功筛选和失败状态覆盖,并让合成数据在真机策略得分上超过被替换的真实数据。

来源

  • DexTouch-WM: Learning Action-Conditioned Tactile World Models from Human Touch for Dexterous Robot Manipulation · arXiv
  • ViTacWorld: Scaling Visuo-Tactile World Models for Contact-Rich Robot Manipulation · arXiv

评论

登录后即可参与评论。

加载评论中…

相关文章

  • DATAFARM 将任务与运动规划轨迹对齐到 VLA 预训练分布后用于微调的流程示意

    规划器明明会做任务,为什么教不会机器人模型

    2026-09-11

  • R2S-Eval流程图:从真实环境校准仿真、采集策略执行视频,再由视觉语言模型成对比较并用Bradley–Terry模型汇总排名

    用仿真视频给六种机器人策略排名,视觉模型与人工偏好一致率应为90.9%

    2026-09-03

  • ModAR 论文缩略图,展示机器人从当前观测依次预测点轨迹、视觉特征、深度并生成动作的研究主题

    机器人世界模型不必先画出未来:ModAR 把运动、语义和深度排在动作之前

    2026-09-15

  • X-WBC 在九种仿真人形本体上共同训练,并部署到四台 Unitree 真机的示意图
AGI Daily跟踪世界 AI 进展
邮件栏目主题RSS
定制投稿招聘广告
关于MCPTermsContact

九种人形机器人一起训练,X-WBC 仍把执行留给各自本体

2026-09-14

  • FolDeX 数据组织与 FoldChallenge 实机评测流程示意图

    机器人折衣不只需要成功示范:FolDeX 把失败恢复做成实机赛道

    2026-09-11

  • GALA 论文示意图:图像难以呈现细微手指动作,方法结合图像变化与手部点云,并展示跨本体表示和真机成功率

    GALA 用手部三维几何把人类视频变成机器人动作数据

    2026-09-18