8 月 4 日，SK 海力士与 SanDisk 在 FMS 2026 上通过 OCP（Open Compute Project）发布了首个 High Bandwidth Flash 标准规格。这距离两家公司今年 2 月启动 HBF 标准化联盟仅六个月，距离 2025 年 8 月双方签署合作备忘录恰好一年。
这不是一次渐进式产品升级。HBF 在 HBM 和 SSD 之间插入了一个此前不存在的存储层级：用 NAND 闪存做 HBM 式的垂直堆叠封装，通过 UCIe 接口直连 GPU 或 CPU。其定位是 AI 推理中模型权重的"近计算大容量层"——不是替代 HBM，而是承接 HBM 装不下的那部分。
HBF 是什么
HBF 的核心思路是用 NAND 的密度优势弥补 HBM 的容量短板。具体规格：单配置最高 512GB（8 层或 16 层 NAND die 堆叠），带宽按三个等级划分为 0.4 TB/s、中档、3.0 TB/s 三档。作为对比，当前主流的 HBM3E 单 stack 容量 24–36GB、带宽约 1.2 TB/s；一块 NVIDIA B200 GPU 搭载 8 个 HBM3E stack，总容量 192 GB，总带宽 8 TB/s。HBF 的目标不是追平 HBM 的带宽，而是用 8–16 倍的容量换接近的带宽，以容纳大模型参数。
HBF 之所以能将 NAND 的带宽推到 TB/s 级别，依赖 Sandisk 的 CBA（CMOS directly Bonded to Array）晶圆键合技术。传统 NAND 的 CMOS 控制电路和存储阵列在同一晶圆上制造，性能和密度互相妥协；CBA 将两者分开制造、再键合，控制电路可以用更先进的逻辑工艺追求 I/O 速度，存储阵列则独立优化密度。Sandisk 高级设计工程总监 Cynthia Hsu 对 SDxCentral 解释，这能"同时获得最好的单元性能和最好的 CMOS I/O 性能"。
标准还定义了 UCIe（Universal Chiplet Interconnect Express）作为 HBF 与处理器的互联接口。这意味着 HBF 不是通过 PCIe 或网络挂载的远端存储，而是与 GPU/CPU 在同一个 chiplet 互联体系内的近端内存——这一定位差异在与三星 CMX 方案比较时尤为关键。
为什么 AI 推理需要这个中间层
AI 训练吃算力，AI 推理吃内存带宽。对于一个 5000 亿参数的大模型，即使使用 FP8 精度，仅模型权重就需要约 500 GB 存储。一块 B200 的 192 GB HBM3E 远远不够；跨多块 GPU 做张量并行会引入 inter-GPU 通信延迟，且 HBM 的成本极高——HBM3E 目前约 300 美元/stack，下一代 HBM4 预计约 500 美元/stack。
SSD 容量充足、价格便宜，但带宽差距过大。高端企业级 SSD 的顺序读取带宽在 10–15 GB/s 量级，仅为 HBM3E 单 stack 的约 1%。对于 token-by-token 的自回归生成，SSD 延迟会成为不可接受的瓶颈。
HBF 的逻辑在于：AI 推理的 decode 阶段本质上是流式读取模型权重——"你在做的就是把模型权重流式传输给加速器"，Hsu 对 SDxCentral 说，"对推理工作负载来说，真正重要的是带宽，而不是延迟。"因为模型权重是只读数据，可以预取和流水线化，NAND 较大的访问粒度（page size）和较高的延迟可以通过并行度弥补。Sandisk 的模拟数据支撑了这一判断。
性能证据
Sandisk 的模拟以 Llama 3.1 405B 为基准，测试 HBF 读取 8-bit 预训练权重的性能。对比对象是一个假设拥有无限容量 HBM 的配置——即排除容量优势，仅测试带宽和延迟差异对系统级性能的影响。结果：HBF 的系统级性能在无限容量 HBM 的 2.2% 偏差范围内。Sandisk 在官方白皮书中称，HBF 能以与 HBM4 相当的物理尺寸、功耗和堆叠高度，提供 8–16 倍容量，成本相近。
SK 海力士在今年早些时候发表的 IEEE H³ 论文提供了更具野心的架构图景。该论文提出将 HBM 和 HBF 放在同一 interposer 上，共用统一地址空间：只读数据（模型权重、共享 KV cache）放在 HBF，读写数据放在 HBM。在 B200 + 8×HBM3E + 8×HBF 的模拟中，H³ 架构在百万 token 上下文下 tokens/sec 是纯 HBM 的 1.25 倍，1000 万 token 上下文中扩大到 6.14 倍；每瓦性能最高提升 2.69 倍，KV cache 批处理规模可达纯 HBM 的 18.8 倍。
这两个数据点互为补充：Sandisk 的数据回答"HBF 读取速度够不够快"，SK 海力士的论文回答"HBM+HBF 混合架构能解锁什么新能力"。
与三星 CMX 的错位竞争
将 HBF 与三星的 CMX（Compute Memory Express）简单并列为"竞争对手"是一种误读。两者的目标问题相同——AI 推理的内存墙——但坐在架构的不同位置。
三星 CMX 是 NVIDIA 主导的生态方案：通过 BlueField-4 DPU 和 Spectrum-X 以太网，将 NAND SSD 组成的存储池作为"G3.5"层（Context Memory Storage）挂载到 GPU 集群。它不是直连 GPU，而是网络附加的 pod 级缓存层，主要服务于 KV cache 卸载。单套 CMX 配置可达 576 块 SSD、9.6 PB 总容量。
HBF 则通过 UCIe 直连 GPU，定位在 G1（GPU 层）。它比 CMX 离计算更近一个架构层级，延迟更低，但容量上限也更低——512 GB 对 PB 级别。两者的关系更接近"不同层级的不同解法"，而非直接替代。
在 COMPUTEX 2026 上，SK 海力士在同一展台同时展示了 HBF（G1 层）和 BlueField-4 STX SSD（G3.5 层），说明它自己也在布局多层架构。HBF 并非要消灭 CMX，而是要在 HBM 旁边新建一层。
已知和未知
HBF 目前是一份 OCP 标准规格书，不是硅片，更不是产品。Sandisk 的目标时间表是：2026 年下半年交付首批 HBF 内存样品，2027 年初交付首批搭载 HBF 的 AI 推理设备。SK 海力士同时宣布其第 10 代 375 层 4D NAND（V10）能效比前代提升 2.5 倍，计划明年初量产基于该 NAND 的 eSSD。但 HBF 产品本身没有量产时间。
几个关键问题有待回答：HBF 的确切延迟数字（NAND 的读取延迟通常在微秒级，HBM 在纳秒级——差距可能有三个数量级）；NAND 的写入耐久性在推理场景中是否构成限制（模型权重是只读的，但 KV cache 涉及持续写入）；以及实际系统集成中的散热和封装良率。
另一方面，生态信号比技术规格更有分量。Google 和 Tenstorrent 已经以联盟成员身份参与了技术验证。8 月 6 日的 FMS 专题讨论由 Google DeepMind 高级工程师 Xiaoyu Ma 参与——Google 的工程师出现在存储厂商的发布会上讨论内存架构，本身就是一个值得注意的信号。Sandisk 还为 HBF 组建了由 David Patterson（RISC-V 之父、Google 杰出工程师）和 Raja Koduri（前 Intel/AMD GPU 架构负责人）组成的技术顾问委员会。
AI 基础设施正在从"更快的内存"转向"更多层的内存"。HBF 是这个转型中第一个标准化的新层级——它还不是产品，但它已经有了规格书、联盟和 Google。
