一只四足机器人在看起来几乎像实拍的楼梯前反复训练,换到另一座同类楼梯,成绩仍可能掉下一大截。9 月 14 日公开的 Neverwhere 没有把这个落差藏在“照片级仿真”的展示视频后:作者把多座楼梯场景按 70% 训练、30% 测试拆分后,训练场景与未见场景的平均成绩相差约 50 个百分点。
这正是这套基准最有价值的地方。Neverwhere 把真实校园里的楼梯、坡道、缺口和障碍重建成可重复运行的闭环测试,让机器人在部署前暴露失败;它自己的实验又说明,画面更逼真只能减少一种差异,不能替代场景多样性,更不能把仿真成绩直接换算成真实世界的安全结论。
同一座数字场景,要同时解决“看见什么”和“撞到什么”
3D Gaussian Splatting(3DGS)擅长从多视角照片重建可实时渲染的外观,却不会天然给出物理引擎需要的可靠接触表面。Neverwhere 因此没有让一套表示同时承担视觉与物理:3DGS 负责机器人相机看到的纹理、光照和植被等细节,OpenMVS 重建的网格负责 MuJoCo 中的碰撞与接触。
制作流程从未标定的多视角图像开始。COLMAP 估计相机位姿,OpenMVS 恢复网格;团队再从带纹理的网格采样点,初始化 Gaussian,并用网格产生的深度约束训练。这样做针对一个具体问题:人手持相机的采集视角通常高于四足机器人的低机位,普通 3DGS 容易在偏离采集轨迹的新视角出现伪影。
自动重建完成后仍需要人工把场景旋转到 z 轴向上、恢复真实尺度、裁剪范围并标注路线点。论文称定向、缩放与任务标注合计不到两分钟,但这不是“视频输入、全自动生成测试”的流水线。它更像把原来昂贵的手工建模压缩到少量校准工作,同时保留外观层和碰撞层各自可检查的接口。
67 个场景把四类障碍变成可重复的闭环测试
9 月 13 日公开的固定版本清单共列出 67 个场景:19 个障碍场景、19 个楼梯场景、17 个坡道场景和 12 个跨缺口场景。其中 63 个属于正式 benchmark,另有 4 个用于 LucidSim 策略的仿真—真机平行测试;清单对应的压缩资源合计约 80.16 GiB。数据页标注 MIT 许可,每个场景包包括 Gaussian 模型、碰撞与简化可视网格、相机位姿、稠密重建和任务 XML。
这里的 gaps 指机器人要跨越的物理缺口,不是“性能差距”。四类任务都以人工标注的路线点定义目标,成功率是机器人抵达的路线点占全部路线点的比例。策略需要持续接收 RGB、深度、点云或语义等观测,再输出 Unitree Go1 四条腿共 12 个关节的目标位置;一旦前一步落脚偏移,后续看到的画面和动作也会随之变化。相比在静态图片上做识别,这种闭环设计更接近部署时错误不断累积的过程。
Neverwhere 延续了 LucidSim 的问题意识。LucidSim 用生成图像训练 RGB 视觉跑酷策略,Neverwhere 则把重点移到评测:用固定、可复现的真实场景重建,观察策略离开熟悉外观后怎样失效。它不是追求无限随机的训练世界,而是把一组确定的困难案例放进持续测试。
楼梯的 50 个百分点,测到的是特定训练设置下的场景过拟合
作者用特权教师、行为克隆和 DAgger 训练视觉策略:每轮从学生策略当前会到达的状态收集轨迹,再由教师提供纠正动作。单场景实验里,策略在训练场景表现较好,换到同一任务的其他场景后普遍下降;外观相似的场景之间偶尔迁移得更好,反而提示模型可能记住了环境视觉特征。
多场景实验把每类任务的场景按 70% 与 30% 分成训练集和评估集,并对每个场景运行 50 次。训练时,RGB 输入接受旋转、裁剪、模糊与颜色变换,深度输入加入噪声和随机缺失像素。在这一设置下,楼梯任务的训练—评估平均差约为 50 个百分点,跨缺口任务约为 10 个百分点。
这两个数字不能扩写成 Neverwhere 四类任务的统一“泛化率”,也不能据此给某种机器人架构排名。论文没有在这里比较多种主流策略,而是用自家训练设置证明一件更窄、也更重要的事:即使训练画面来自真实场景重建,有限场景的逼真度仍不能代替训练分布的覆盖面。对准备上线视觉运动策略的团队来说,这意味着回归测试集要按材质、结构、光照和视角扩展,而不是只把同一批场景渲染得更漂亮。
仿真能提前暴露失败,还不能替真机签字
Neverwhere 只在四个一一对应的环境里做了真机与仿真平行测试,覆盖障碍和楼梯两类任务,每个场景各 10 次,因此每类任务共 20 次。LucidSim 策略在障碍任务中,真机与仿真完成率都是 75%;到了楼梯,仿真为 85%,真机只有 60%。
这个对照支持“仿真可以提供早期信号”,却没有证明它能准确预测真实成功率。楼梯上的 25 个百分点差异恰好暴露了外观重建之外的误差:真实表面不规则、摩擦和接触变化、机器人动力学偏差,都可能让仿真更乐观。另一项面向软体操作的独立 real-to-sim 研究也把外观与动力学分别校准,说明高保真画面只是可信评测的一部分。
Neverwhere 当前还集中在两座大学校园、一个四足机器人和四类几何障碍;指标只计算抵达多少路线点,不覆盖冲击、能耗、恢复能力或对人和设施的风险。它适合做部署前的自动化回归测试,不适合作为真机安全认证。
真正决定这套基准能否成为公共基础设施的下一步,不是再展示一段更逼真的渲染,而是第三方能否用公开场景、代码和检查点复现结果,并在更多策略、机器人和成对真实场地上量出稳定的仿真—真机相关性。若这些证据逐步成立,67 座数字场景的意义才会从“让机器人提前摔一次”,变成让每次模型更新都接受同一套可追踪的压力测试。
