机器人先在 67 座数字场景里试错,逼真仿真仍没消除泛化缺口 | AGIDaily
AGI Daily
资讯日报词条论文人物新创

机器人先在 67 座数字场景里试错,逼真仿真仍没消除泛化缺口

2026-09-14 / 共 2,232 字

Neverwhere 项目团队

一只四足机器人在看起来几乎像实拍的楼梯前反复训练,换到另一座同类楼梯,成绩仍可能掉下一大截。9 月 14 日公开的 Neverwhere 没有把这个落差藏在“照片级仿真”的展示视频后:作者把多座楼梯场景按 70% 训练、30% 测试拆分后,训练场景与未见场景的平均成绩相差约 50 个百分点。

这正是这套基准最有价值的地方。Neverwhere 把真实校园里的楼梯、坡道、缺口和障碍重建成可重复运行的闭环测试,让机器人在部署前暴露失败;它自己的实验又说明,画面更逼真只能减少一种差异,不能替代场景多样性,更不能把仿真成绩直接换算成真实世界的安全结论。

同一座数字场景,要同时解决“看见什么”和“撞到什么”

3D Gaussian Splatting(3DGS)擅长从多视角照片重建可实时渲染的外观,却不会天然给出物理引擎需要的可靠接触表面。Neverwhere 因此没有让一套表示同时承担视觉与物理:3DGS 负责机器人相机看到的纹理、光照和植被等细节,OpenMVS 重建的网格负责 MuJoCo 中的碰撞与接触。

制作流程从未标定的多视角图像开始。COLMAP 估计相机位姿,OpenMVS 恢复网格;团队再从带纹理的网格采样点,初始化 Gaussian,并用网格产生的深度约束训练。这样做针对一个具体问题:人手持相机的采集视角通常高于四足机器人的低机位,普通 3DGS 容易在偏离采集轨迹的新视角出现伪影。

自动重建完成后仍需要人工把场景旋转到 z 轴向上、恢复真实尺度、裁剪范围并标注路线点。论文称定向、缩放与任务标注合计不到两分钟,但这不是“视频输入、全自动生成测试”的流水线。它更像把原来昂贵的手工建模压缩到少量校准工作,同时保留外观层和碰撞层各自可检查的接口。

67 个场景把四类障碍变成可重复的闭环测试

9 月 13 日公开的固定版本清单共列出 67 个场景:19 个障碍场景、19 个楼梯场景、17 个坡道场景和 12 个跨缺口场景。其中 63 个属于正式 benchmark,另有 4 个用于 LucidSim 策略的仿真—真机平行测试;清单对应的压缩资源合计约 80.16 GiB。数据页标注 MIT 许可,每个场景包包括 Gaussian 模型、碰撞与简化可视网格、相机位姿、稠密重建和任务 XML。

这里的 gaps 指机器人要跨越的物理缺口,不是“性能差距”。四类任务都以人工标注的路线点定义目标,成功率是机器人抵达的路线点占全部路线点的比例。策略需要持续接收 RGB、深度、点云或语义等观测,再输出 Unitree Go1 四条腿共 12 个关节的目标位置;一旦前一步落脚偏移,后续看到的画面和动作也会随之变化。相比在静态图片上做识别,这种闭环设计更接近部署时错误不断累积的过程。

Neverwhere 延续了 LucidSim 的问题意识。LucidSim 用生成图像训练 RGB 视觉跑酷策略,Neverwhere 则把重点移到评测:用固定、可复现的真实场景重建,观察策略离开熟悉外观后怎样失效。它不是追求无限随机的训练世界,而是把一组确定的困难案例放进持续测试。

楼梯的 50 个百分点,测到的是特定训练设置下的场景过拟合

作者用特权教师、行为克隆和 DAgger 训练视觉策略:每轮从学生策略当前会到达的状态收集轨迹,再由教师提供纠正动作。单场景实验里,策略在训练场景表现较好,换到同一任务的其他场景后普遍下降;外观相似的场景之间偶尔迁移得更好,反而提示模型可能记住了环境视觉特征。

多场景实验把每类任务的场景按 70% 与 30% 分成训练集和评估集,并对每个场景运行 50 次。训练时,RGB 输入接受旋转、裁剪、模糊与颜色变换,深度输入加入噪声和随机缺失像素。在这一设置下,楼梯任务的训练—评估平均差约为 50 个百分点,跨缺口任务约为 10 个百分点。

这两个数字不能扩写成 Neverwhere 四类任务的统一“泛化率”,也不能据此给某种机器人架构排名。论文没有在这里比较多种主流策略,而是用自家训练设置证明一件更窄、也更重要的事:即使训练画面来自真实场景重建,有限场景的逼真度仍不能代替训练分布的覆盖面。对准备上线视觉运动策略的团队来说,这意味着回归测试集要按材质、结构、光照和视角扩展,而不是只把同一批场景渲染得更漂亮。

仿真能提前暴露失败,还不能替真机签字

Neverwhere 只在四个一一对应的环境里做了真机与仿真平行测试,覆盖障碍和楼梯两类任务,每个场景各 10 次,因此每类任务共 20 次。LucidSim 策略在障碍任务中,真机与仿真完成率都是 75%;到了楼梯,仿真为 85%,真机只有 60%。

这个对照支持“仿真可以提供早期信号”,却没有证明它能准确预测真实成功率。楼梯上的 25 个百分点差异恰好暴露了外观重建之外的误差:真实表面不规则、摩擦和接触变化、机器人动力学偏差,都可能让仿真更乐观。另一项面向软体操作的独立 real-to-sim 研究也把外观与动力学分别校准,说明高保真画面只是可信评测的一部分。

Neverwhere 当前还集中在两座大学校园、一个四足机器人和四类几何障碍;指标只计算抵达多少路线点,不覆盖冲击、能耗、恢复能力或对人和设施的风险。它适合做部署前的自动化回归测试,不适合作为真机安全认证。

真正决定这套基准能否成为公共基础设施的下一步,不是再展示一段更逼真的渲染,而是第三方能否用公开场景、代码和检查点复现结果,并在更多策略、机器人和成对真实场地上量出稳定的仿真—真机相关性。若这些证据逐步成立,67 座数字场景的意义才会从“让机器人提前摔一次”,变成让每次模型更新都接受同一套可追踪的压力测试。

来源

  • The Neverwhere Visual Parkour Benchmark Suite · arXiv
  • Neverwhere 项目页 · Neverwhere
  • Neverwhere 数据清单(固定版本) · Hugging Face
  • Learning Visual Parkour from Generated Images · LucidSim
  • Real-to-Sim Robot Policy Evaluation with Gaussian Splatting Simulation of Soft-Body Interactions · arXiv

评论

登录后即可参与评论。

加载评论中…

相关文章

  • R2S-Eval流程图:从真实环境校准仿真、采集策略执行视频,再由视觉语言模型成对比较并用Bradley–Terry模型汇总排名

    用仿真视频给六种机器人策略排名,视觉模型与人工偏好一致率应为90.9%

    2026-09-03

  • LIBERO-Recover项目页的场景分布图;图心标注2117个场景,与论文正文的2178个不一致

    一个机器人模型在标准基准拿到97.1%,失败后续作不足四分之一

    2026-09-05

  • ReactHuman 流程图:场景生成、模型规划与仿真人形机器人执行

    接住落物这道题,机器人选对动作仍可能差半米

    2026-09-09

  • NavSafe-∞ 官方题图:同一开环轨迹进入闭环后形成违规、碰撞、驶离道路和到达终点等不同结果
AGI Daily跟踪世界 AI 进展
邮件栏目主题RSS
定制投稿招聘广告
关于MCPTermsContact

同一套训练补救,闭环结果一升一降:NavSafe-∞ 重排自动驾驶

2026-10-09

  • NIST装配任务板1,包含插销、齿轮、电气连接器和螺母等接触密集装配部件

    一个拿过80.6%的机器人失败检测器,平衡样本复评只剩0.53

    2026-09-03

  • ModAR 论文缩略图,展示机器人从当前观测依次预测点轨迹、视觉特征、深度并生成动作的研究主题

    机器人世界模型不必先画出未来:ModAR 把运动、语义和深度排在动作之前

    2026-09-15