8 月 15 日上线 arXiv 的预印本 FlashDrive（arXiv:2608.12932）给出一个具体数字：NVIDIA 的开源推理 VLA 模型 Alpamayo 1.5-10B，在单块 RTX PRO 6000 上每帧推理要 717 毫秒，控制频率只有 1.4Hz；经过 FlashDrive 的算法-系统协同优化，同一模型降到 151 毫秒、6.6Hz，端到端加速 4.7 倍，轨迹误差仅劣化约 0.08 米，部分精度指标甚至更好。这篇工作的核心结论不是"某个技巧更快了"，而是 VLA 推理没有一个单一瓶颈——它是编码、prefill、解码、动作四段的级联，任何只修一处的方案都会被其余三段拖住。
瓶颈是四级级联，不是单点
FlashDrive 先把 Alpamayo 1.5 的推理拆成四段逐段 profile（单轨迹样本，RTX PRO 6000）：视觉编码 87.0 毫秒、语言模型 prefill 165.3 毫秒、推理 token 解码 271.7 毫秒、flow-matching 动作生成 192.9 毫秒，合计 716.9 毫秒。解码占 37.9%，是最大的一块，但没有任何一段大到"修好它就够了"。四段的昂贵原因各不相同：编码在重复计算重叠帧，prefill 在重复构建上下文，解码在串行生成低熵 token，动作在均匀迭代去噪——这正是单点优化难以见效的原因。
四条捷径，分别对准四种冗余
FlashDrive 的主张是，每一段都藏着一类不同的冗余，值得配一条不同的轻量捷径。
流式推理对准编码与 prefill 的时间重叠。连续驾驶里，模型以 4 帧×4 视角的滑动窗口处理视频、每步只前进一帧，因此每步约 75% 的画面与上一步重复。FlashDrive 只编码新帧，其余复用上一时间步的 KV cache；由于视角按"先视角后时间"排列、token 绝对位置随窗口滑动而变，它把 key 缓存在施加 RoPE 之前，并用流式注意力掩码维持跨视角因果。这使编码与 prefill 分别加速 3.4 倍和 3.2 倍。代价是 KV cache 变成了近似值：缓存是在不同注意力上下文中算出的，直接使用会让 minADE1 劣化约 0.3 米。作者发现这种偏移几乎只落在动作专家上——推理 token 自回归生成、主要关注近端 token，对旧帧的陈旧缓存不敏感；动作专家却通过交叉注意力整合整个 KV cache，小偏移会被放大。于是他们冻结 VLM 骨干，只用 rollout 式 teacher-forcing 微调动作专家，把精度恢复到接近基线（minADE1 1.73 米）。
投机推理对准解码的串行性。Alpamayo 1.5 会先自回归生成约 16 个 chain-of-causation 推理 token 再输出轨迹；这些 token 格式高度模板化、每 token 熵很低、块内相关强。FlashDrive 用 DFlash——一个扩散式非自回归 drafter——一次性并行生成整块候选，再由目标模型验证。两层草稿模型（块大小 8）平均每次被接受 5.6 个 token，把解码从 271.7 毫秒压到 58.2 毫秒（相对未优化基线 4.7 倍）。投机解码的验证机制保证输出分布与标准自回归一致，这一步不引入质量损失。
自适应步长 flow matching 对准动作段的过度去噪。动作头把语言级推理转成轨迹航点，要跑 8 步去噪、每步完整过一遍动作网络。作者 profile 去噪速度场后发现它呈 U 形：首末几步速度变化剧烈——起始步定下粗略轨迹结构，末步把预测"吸附"到满足运动学与道路几何的可行流形上——中间段几乎恒定。于是他们把 8 步里 4 个中间步的速度缓存复用，把动作段从 113.9 毫秒压到 47.6 毫秒，minADE6 只劣化 0.04 米，minADE1 反而改善 0.14 米。
量化是最后一块拼图，关键在选 W4A8 而非 W4A16。AWQ 这类仅权重量化到 4 位（W4A16）只减轻解码的内存带宽压力，对 prefill 这类计算密集段无效；而 VLA 每步都带数千视觉 token，prefill 贵到不能忽略。FlashDrive 用 ParoQuant 把 VLM 骨干权重压到 4 位、激活以 8 位跑 INT8 矩阵乘（Marlin 内核），对数值最敏感的动作专家保持 BF16。显存从约 31.6GB 降到 18.3GB，再省 14% 延迟（176→151.4 毫秒）。
系统层把剩下的开销也压掉
算法改的是"算多少"，系统层改的是"执行剩下的有多贵"。VLA 推理链四段异构，单批解码算术强度低，单次前向要发几百个小内核，CPU 调度开销占可观比例。FlashDrive 把每段编译进 CUDA Graph，用一次 GPU 端启动重放整段内核序列、消除 token 间的 CPU 调度空转；再把 Q/K/V 投影、MLP 的 gate/up 投影各自融合成一次启动。仅这两项就带来 1.40 倍加速（端到端延迟降 28.4%），不改变任何计算。
加速的代价：0.08 米，和一个退步的指标
在 6.4 秒预测时域上，FlashDrive 把 minADE6 从 0.767 米劣化到 0.844 米（+0.08 米，约合每秒 1.2 厘米），minADE1 反而从 1.705 米改善到 1.573 米——作者把后者归因于流式微调起了正则化作用、降低预测方差。
闭环仿真（AlpaSim，100 条随机片段）里，安全类指标大多变好：碰撞率 0.19→0.15，驶离道路率 0.41→0.32，规划偏差 0.24→0.16。唯一退步的是"错车道"率（0.45→0.51），它衡量车头朝向偏离车道中线超过 2π/3，在交叉口与汇入区本就容易误报。作者据此判断"加速没有损害驾驶安全"，但错车道这一项的不对称，说明"几乎无损"在细节上仍是有代价的。
跨设备上加速稳健：单轨迹样本下，Jetson Thor 与 RTX 3090/4090/5090/PRO 6000 分别获得 4.0/4.9/6.0/4.8/4.7 倍；六轨迹样本下最高到 10.6 倍，且 FlashDrive 让原本因 24GB 显存不足而失败的 RTX 3090/4090 也能跑起来。
从仿真到上车，还差一个"设备级"的现实
最需要警惕的是 headline 数字与车规设备之间的落差。6.6Hz 对应的是 RTX PRO 6000 这块工作站 GPU 上的单轨迹样本推理；更贴近量产车端的是 Jetson Thor——FlashDrive 单轨迹样本仍需 943.6 毫秒（约 1.06Hz），六轨迹样本 1522.6 毫秒（约 0.66Hz），离实时控制还有数量级差距。论文自身在 AlpaSim 里的闭环每步耗时也只从 1150 毫秒降到 463 毫秒（2.5 倍），约 2.2Hz。换句话说，"逼近实时"目前是就数据中心与工作站 GPU 而言，不是就车端芯片而言。
其余边界同样需要标注：这是未经同行评审的预印本，来自 Z Lab 单一团队（作者 Zekai Li、Yihao Liang、Hongfei Zhang、Jian Chen、Zhijian Liu，感谢 Yotta Labs 提供算力），没有第三方复现；结果在 NVIDIA AV 数据集与 AlpaSim 仿真中测量，未做真实道路验证；只在 Alpamayo 1 与 1.5 这一模型家族、W4A8 量化下报告。方法本身——逐段 profile、识别冗余、匹配捷径——可迁移到任何同结构 VLA，论文也在 Alpamayo 1 上复现了 4.5 倍加速，但它能否推广到其他架构仍待验证。代码与预训练 checkpoint 已在 GitHub（z-lab/flashdrive，MIT 许可）开源，Alpamayo 权重沿用 NVIDIA 的非商用许可。
对正在评估"推理 VLA 能否上车"的团队，FlashDrive 把问题从"能不能"推进到了"在哪块硬件上、以什么精度代价能"。下一个可观察的变量是：这些技术被独立复现、并叠加到车端芯片之后，工作站的 6.6Hz 能不能逼近真实安全余量——目前它在工作站 GPU 上成立，在 Jetson Thor 上还没有。
