8 月 13 日,OpenAI 正式预览了一个名为 Ultrafast 的新 API 服务层级:把旗舰模型 GPT-5.6 Sol 放到 Cerebras 的晶圆级芯片上运行,称最高输出速度可达标准模式的 14 倍、输出速度最高 750 token/秒。Ultrafast 为现有模型提供更快的服务;Sol 本身已于 6 月预览、7 月 9 日全面开放。官方尚未公布一些使用它所需的信息:没有定价、没有独立的模型 ID、没有全面开放的时间表,现有速度数据也几乎都来自 OpenAI 或 Cerebras。
本站 6 月 26 日曾报道 OpenAI 确认 Sol 将在 7 月部署到 Cerebras、速度达 750 token/秒;7 月 13 日的开发者验收稿也记录了该模式把 Agent 循环从分钟级压缩到秒级。8 月 13 日的新增量在于:此前预告的模式有了正式名称、对比测试和试运行客户;其他用户目前需要登记等待。
少数客户已可试用,价格和全面开放时间尚未公布
Ultrafast 率先在 OpenAI API 上线,目前仅向"一小批选定客户"开放,措辞是"随容量增长逐步扩大访问",配套表单只收集意向、不承诺日期。Cerebras 也开放了自己的注册通道。两家公司都在收集试用意向,服务尚未普遍可用。
三个关键信息在 OpenAI 公告与 Cerebras 新闻稿里都缺席:Ultrafast 相对标准模式的溢价是多少(Sol 标准价仍是 5 美元/百万输入 token、30 美元/百万输出 token);是否有独立的模型 ID(目前读起来只是现有模型上的一个服务层级选项);以及何时全面开放("随容量增长"之外没有任何承诺)。
Ultrafast 也容易与另一项功能混淆。GPT-5.6 已有一个"Ultra mode"——那是 7 月全面开放时发布的并行化功能,将任务分配给多个同时工作的子 Agent。Ultrafast 与之无关,它是把单个模型的单流输出变快的硬件速度层级:前者增加并行工作的 Agent,后者提高单个模型的输出速度。
Cerebras 用片上存储减少推理中的数据搬运
速度的来源是 Cerebras 的 Wafer-Scale Engine(WSE-3)架构,它试图缓解大模型在 GPU 上推理时常见的数据搬运瓶颈:每生成一个 token,都要把模型权重在片上缓存与片外存储之间反复搬进搬出。Cerebras 的做法是把 44 GB SRAM 直接做在每颗晶圆大小的芯片上,权重常驻片上,各层计算以流水线方式处理 token。WSE-3 在单个 46,225 mm² 的硅片上集成 4 万亿晶体管、约 90 万个 AI 核心,Cerebras 称之为"世界最大的 AI 芯片"。这一架构本站 6 月的稿件已详细拆解,这里不再展开。
Ultrafast 承诺的使用体验是:不必换成更小、更专的模型,就能拿到接近实时响应的速度。OpenAI 希望同时提供旗舰模型的能力和更低的响应延迟。
14 倍是官方速度上限,跨模型比较还受测试方法影响
理解 Ultrafast 的速度数据,需要区分 OpenAI 公布的上限、Cerebras 的竞品比较,以及同一模型两种服务的比较。
最基础的两个数字——"最高 14 倍"与"最高 750 token/秒"——是 OpenAI 自己的说法。"最高"意味着上限而非均值,且公告没有披露这个倍数是在什么负载、什么上下文长度、什么推理力度下测得。
所有与竞品的对比都出自 Cerebras 而非独立评测。Cerebras 引述 Artificial Analysis 的输出速度数据称,Ultrafast 的输出速度为 Claude Fable 5 的 11 倍、Claude Opus 4.8 Fast 模式的 5 倍;在 Humanity's Last Exam(HLE,2500 道博士级题目)上,Sol Ultrafast 用 11 小时 11 分跑完全部题目,Fable 5 用了 78 小时 27 分,称"准确率相当",用时约为 Fable 5 的七分之一。但细看方法:两次跑分不在同一天、用了不同框架——Sol Ultrafast 是 7 月 10 日配 Codex 在 xhigh 推理档位跑,Fable 5 是 7 月 13–15 日配 Claude Code 跑;"准确率相当"只是断言,没有公布分数。
比较条件相对接近的是 GDP-Val 上 5.6 倍的端到端加速、"质量无退化"——这是 7 月 31 日 Cerebras 用 Sol 对比 Sol Ultrafast 的同模型对比,减少了不同模型能力造成的比较偏差。"厂商自报"不等于假,Cerebras 硬件此前确实跑出过亮眼吞吐;但在独立验证之前,规划实际服务时仍需留出余地。
更快输出可能缩短客服、研究和事故处理的等待
OpenAI 列出的五个场景有一个共同点:都对等待时间敏感——事故响应时边读日志边准备修复、市场还在波动时做金融研究、语音客服里不停顿的多轮复杂对话、结账页面上趁用户犹豫前给出答案、把"隔夜跑实验、早上看结果"压缩成当天多轮迭代。
早期客户名单包括 Jane Street、Podium、Basis、Rogo,给出的是定性评价:做语音的 Podium 称 Ultrafast"彻底改变了复杂对话的通话体验";做金融研究的 Rogo 称它"让复杂的金融研究像实时交互"。
一个量级参考:750 token/秒意味着一个约 500 token 的 Agent 响应仅生成文本约需 0.7 秒;用 OpenAI 自己给的 14 倍反推,标准模式基线约在 54 token/秒,同样长度的响应要 9 秒以上——这种差距可能影响电话服务和结账环节的体验,但还未计入首个 token 的等待及其他处理时间。这个反推基线是编辑根据 OpenAI 两个数字的推导,且两个数字都是"最高"上限、未必对应同一负载,因此只是量级参考,不是 OpenAI 公布的数。
价格、容量与独立质量评测决定服务能否大规模使用
两点必须写清楚。其一,Ultrafast 没有定价,实际使用成本尚无法判断。Cerebras 的晶圆级硬件单价高昂,本站 7 月的稿子已提醒"速度快不等于便宜":一个 14 倍速层级若按 token 收溢价,用户只是用更贵的 token 换更短的等待。其二,"与标准模式同等智能、无质量妥协"是本次发布的一项重要承诺,也恰恰是预览阶段外部无法核验的那条——几乎没有第三方能在等待名单之外跑一次独立质量评测。
商业背景同样值得留意:就在 Ultrafast 发布同一天,The Information 报道 Cerebras 股价因硬件收入下滑下跌 16%,其第二份财报电话会议"喜忧参半"。这笔 750 兆瓦、分多批到 2028 年才全部上线的合作,对 Cerebras 是将晶圆级技术推向数亿用户的尝试,对 OpenAI 则是在 GPU 之外再开一条低延迟推理供给线。这项合作需要验证的是"最智能的模型也能跑在专用加速硬件上"这条路线本身能否规模化——而这一答案,要等价格、容量和第三方评测全部落地后才能判断。

