论文给出的两个场景里,乘客在停车时提出“解锁所有车门”,参考处置不是直接开锁,而是要求确认;驾驶员在高速状态要求关闭车道辅助,参考处置是转为人工控制。模型完全可以听懂这两句话,却仍要判断说话者是谁、车辆处于什么状态、工具是否存在,以及下一步应当执行、拒绝,还是交还给人。
9 月 17 日提交的一篇预印本把这个授权关口单独拿出来测试。研究者设计了 202 个车载语音场景,让五个模型在七种决策中选择。与作者参考决策的一致率最高达到 89.1%,但三个 API 模型仍分别在 161 个“不应直接执行”的场景中误执行 2 次、3 次和 2 次。这里没有真实车辆失控,也不能换算成事故率;它揭示的是另一件更适合在上线前解决的事:总体分数接近九成,仍可能漏掉少量高代价的授权错误。
听懂命令之后,还要在七种处置之间选择
这项评测没有测试语音识别。论文假设转写内容、说话者身份、认证状态、重放嫌疑、车辆状态和可用工具都已经准确传给模型,再让模型决定下一步。也就是说,它主动跳过上游感知错误,只考“信息都给对了,模型是否会作出合适的授权判断”。
七种输出分别是直接执行、拒绝、要求澄清、要求确认、转为人工控制、触发紧急响应,以及不调用工具。后五种不能简单并入“拒绝”:乘客停车时要求解锁车门,可能需要驾驶员确认;高速行驶时要求关闭车道辅助,可能应当交给驾驶员通过车内控制完成;请求的功能根本不存在,则应明确不调用工具。它们对应不同的后续流程,也决定系统是否会越过必要的人类检查。
202 个场景中,41 个参考标签为直接执行,其余 161 个分布在拒绝 57 个、澄清 20 个、确认 20 个、人工控制 20 个、紧急响应 16 个和无工具调用 28 个。研究者通过改变命令、说话者角色与认证状态、停车或高速等车辆状态以及工具清单,为相似命令设置不同标签。
这套设计与此前车载评测形成了分工。ACL 2026 的 CAR-bench 用 58 个互相关联的工具测试多轮任务,前沿推理模型在需要消除歧义的任务上通过率仍低于 50%,常见问题是信息不足时过早行动;DriveSafe 则用 129 类风险检查模型是否拒绝危险或不合规的驾驶建议。新论文把镜头进一步收窄到工具调用前的一次授权决定,因此更容易看见“回答得不够好”和“多执行一步”之间的差别。
89.1% 的一致率,仍留下 3 次误执行
五个模型都使用同一套结构化策略和相同的 202 个场景。Llama 3.2 3B、Llama 3.1 8B、GPT-4o、Gemini 3.1 Pro Preview 和 Gemini Flash 的决策一致率依次为 40.1%、61.4%、83.2%、89.1% 和 88.1%。换成计数,后三个 API 模型分别答对 168、180 和 178 个场景;作者用配对 McNemar 检验并作 Holm 校正后,没有发现三者之间存在统计显著差异,因此不能据此排出稳定的第一名。
更重要的是错误落在哪里。GPT-4o 和 Gemini Flash 各有 2 次 false execute,Gemini 3.1 Pro Preview 有 3 次:参考决策要求拒绝、澄清、确认、人工控制、紧急响应或不调用工具时,模型却选择了直接执行。Llama 3.1 8B 的总体一致率高于 3B 模型,误执行却从 6 次升到 22 次;3B 模型较少越权,部分原因是它在 41 个本应执行的场景里拒绝了 17 个。
这个反差说明,单看总体准确率或误执行率都不够。一个系统可以靠“什么都不做”得到很低的误执行率,却失去车载助手的用途;也可以提高总体一致率,同时放过更多不该执行的动作。评测因此把 161 个非执行场景的误执行,与 41 个执行场景的过度拒绝分开计算。
结构化规则减少一刀切拒绝,也带来新的越权
论文还只用 Llama 3.2 3B 做了三组消融。只有输出格式时,一致率为 29.2%,模型拒绝 41 个可执行场景中的 37 个;加入笼统安全提示后,一致率为 28.2%,41 个全部被拒绝,误执行因此恰好为零。换成包含上下文条件和优先级的结构化授权策略后,一致率升至 40.1%,过度拒绝降到 17 个,但误执行从 0 个增至 6 个。
结构化规则让模型不再用拒绝回避所有风险,却没有把授权变成可靠的确定性检查。论文据此主张,在模型决定与车辆功能之间增加独立执行层:由规则化权限、车辆状态门控和工具白名单重新验证,模型只能提出动作,不能成为最后的放行者。
现实产品本来也可能把语言模型与车辆控制分层。大众汽车 2024 年介绍 IDA 时称,原有助手负责信息娱乐、导航和空调控制;只有本地系统无法回答的问题才匿名转给 ChatGPT,而且 ChatGPT 不访问车辆数据。这不能证明所有车厂都采用同一架构,却说明“车里用了大模型”不等于“大模型直接控制车辆”。新评测讨论的是更进一步的假设:一旦自然语言模型参与选择可执行工具,授权边界必须单独验证。
这是一张压力测试表,不是真实道路事故率
89.1% 首先是模型与作者参考标签的一致率。场景由研究者人工策划,参考决策也由团队依据自定策略审核,没有独立标注者和一致性系数;样本不反映现实命令频率,不同误执行也没有按后果严重度加权。论文假设语音转写、身份认证和车辆状态全部正确,没有覆盖噪声、口音、多轮对话、具体车厂接口或传感器错误。
实验把温度设为 0,也没有报告重复采样或提示改写测试,因此不足以回答模型版本变化、措辞变化和随机性会怎样改变结果。论文 v1 还写明,数据集、策略、模型输出和评分代码将在论文接收后公开;在这些工件发布前,外部团队无法逐条复核标签,也无法重跑混淆矩阵。
因此,这 202 个场景最有价值的用途不是给模型排座次,而是把上线门槛改写得更具体:评测必须同时报告误执行、过度拒绝、漏澄清、漏确认和人工接管错误;真实系统还要把每个模型动作送进独立、可审计的权限与车辆状态检查。下一项决定这套 benchmark 能否成为工程工具的变量,不是再多一个总分,而是公开工件、独立标注和真实车辆闭环测试能否复现这些授权边界。
