9 月 16 日，MLCommons 公布 MLPerf Inference v6.1。最值得注意的变化不是某块芯片又把吞吐推高了多少，而是测试对象第一次从“一次请求交给一个模型”扩展到两类更接近现实系统的负载：一段会不断增长的 Agent 编程对话，以及一条由向量数据库、检索器、重排器和多个语言模型共同完成的 RAG 流水线。
这给采购和部署团队增加了两把更实用的量尺，却没有产生一张“谁的 Agent 最聪明”的榜单。Edge Agentic 主要测固定工作负载下每轮要等多久，端到端 RAG 主要测整条流水线每秒能处理多少文档或问题；任务是否真正完成、补丁能否通过测试、安全风险如何，都不在这轮性能分数里。
30 家提交者背后，新测试只有少数系统参加
v6.1 整轮有 30 家提交者、120 套系统，覆盖 10 项数据中心测试和 6 项边缘测试。这个规模容易让人以为两项新测试已经形成充分竞争，结果表给出的图景要窄得多。
Edge Agentic 的 Closed division 只有 5 套系统，来自 Atlas Inference、HPE 和 NVIDIA 三家提交者；另有 Lambda 的一条 Open division 结果。端到端 RAG 更少：只有 Intel 的一套双路 Xeon 6787P、四张 Arc Pro B70 系统，分别提交建库和问答两项结果。
Closed division 要保持模型、前后处理与参考实现等价，适合在同一规则下比较系统。Open division 可以更换模型、重训练或改变前后处理。Lambda 用 8 张 B200 和 Kimi K2.6 跑出的 770.8 毫秒平均每轮延迟，因此不能与 Closed division 的 Qwen3.6-27B 结果排在同一张性能榜上。它证明的是这套负载可以被移植到另一种系统，而不是 8 张数据中心 GPU 击败了桌面或边缘设备。
覆盖范围还揭示了“Edge”的边界。MLPerf 规则把 Edge 定义为非数据中心系统，首轮提交既有 Jetson AGX Thor 和 Strix Halo 桌面机，也有单卡及四卡 RTX PRO 4500 服务器。读者比较结果时，不能把“Edge”自动理解成同功耗、同价格或同形态的消费设备。
Agentic 测试让历史越跑越长，却不执行完整软件任务
Edge Agentic 固定使用 27B 参数的 Qwen3.6-27B、32K 上下文和单并发服务。参考配置关闭推理模式，并用约 16.5GB 的 4 bit 权重把模型放进边缘设备。性能集来自 20 段预先录制的编程 Agent 轨迹，共 1007 轮，最长输入约 2.35 万 token。每一轮都要带上此前不断增长的对话历史，服务端完成当前响应后，下一轮才会发出。
这比固定长度提示词更能暴露长会话的显存、KV cache 和首 token 等待问题。结果表中，Closed division 最低的平均每轮延迟是 Jetson AGX Thor 的 1466 毫秒，最高是 Strix Halo 的 7059 毫秒；中间还夹着一张卡与四张卡的 HPE 系统，以及 DGX Spark。它们比较的是整套软硬件在同一回放负载下的表现，不是按芯片数量、价格或功耗归一化后的性价比。本轮这些新项目也没有提交功耗结果。
“Agentic”一词在这里有明确上限。性能测试重放已经记录好的多轮轨迹，模型输出 bash 工具调用，内联检查器只比较规范化后的可执行命令集合与参考轨迹的重合度。它不在真实代码库里完成修改，也不检查补丁能否通过测试。
准确率门槛与性能回放还是两套数据。门槛来自约 995 条 BFCL v4 单轮函数调用题，用 AST 精确比较函数名和参数；提交结果必须同时达到参考总体分与类别均衡分的 97%。多轮准确率只保留为非计分参考，因为 57 条样本的统计波动太大。于是，这个测试能回答“固定模型在增长上下文中调用工具要等多久”，不能回答它能否规划、纠错并完成一个真实软件任务。
RAG 把整条流水线纳入计时，也把随机路径先固定下来
端到端 RAG 把 2515 篇冻结的 Wikipedia HTML 文档切成约 10.7 万个段落，再用 824 个 FRAMES 多跳问题测试系统。建库阶段由 e5-base-v2 生成向量并写入 FAISS HNSW 索引；问答阶段用 ColBERTv2 重排，以 GPT-OSS-20B 判断文档相关性，再让 GPT-OSS-120B 改写查询、判断证据是否充分并生成答案，最多循环五轮。最终答案由 Llama 3.1-8B 评分。
这套设计把过去分散的向量检索、小模型分类和大模型生成变成同一个系统负载。首轮唯一的 Closed 系统每秒处理 22.614 个建库文档，问答吞吐为每秒 0.464 个任务。两个数字分别对应一次性建库和基于预建数据库的离线问答，不能相互换算，也还没有第二套系统可供横向比较。
为了让性能运行可重复，MLCommons 给每个问题预先记录各阶段输入，固定检索到的文档和循环次数；模型仍执行推理，但当前输出被丢弃，下一步使用缓存的参考响应。真实输出质量在另一轮 accuracy run 中测试。首轮参考管线的最终答案准确率约为 35%，Intel 提交结果为 35.92%。所谓“达到参考准确率的 97%”是合格门槛，不是答对 97% 的问题。
检索质量也不是正式分数，只用于检查提交者建立的数据库是否接近参考实现。现有合规测试主要约束最终答案的平均输出长度，检索、重排和中间语言模型调用仍依赖详细日志供评审检查。这个基准已经覆盖了整条管线的计算压力，却没有把实时生成路径中的质量波动与性能绑定成一个指标。
这是一把系统压力尺，不是 Agent 能力证书
v6.1 的增量在于把两个经常被营销成“Agent 优化”的抽象词，压成了可复现的具体负载：一边是 1007 轮、上下文持续增长的单用户会话，另一边是多个模型和检索组件反复协作的问答流水线。硬件厂商今后至少要说明，自己的加速发生在单模型吞吐、长上下文等待，还是整条复合管线上。
这把尺子目前仍很窄。Edge Agentic 没有任务成功率、安全性、成本和能效；RAG 只有一套系统，性能运行又固定了检索路径。发布材料中“最高 5.7 倍”的提升属于 DeepSeek-R1 在特定可比提交中的年度变化，不能移植到两项新测试上。
下一轮真正决定这两项基准能否服务采购的，不是再多一个“Agentic”标签，而是更多厂商在 Closed division 提交相同负载、补上功耗和价格口径，并把性能结果与任务级成功率连接起来。在这些缺口补齐前，v6.1 证明了复杂 Agent 系统可以被统一计时，还没有证明哪套系统更会把工作做对。
