5 月 21 日,多家媒体转引 Morgan Stanley Research 的估算称,Nvidia 下一代 Vera Rubin NVL72 面向大型云服务商的单机架采购成本,可能达到约 780 万美元。报道把其中约 200 万美元归入内存与存储相关支出,约占四分之一。这个金额来自机构估算,Nvidia 尚未公布统一官方标价。
这份估算的关注点是成本构成。GPU 仍是主要支出,但内存、存储、网络、供电和液冷也占用大量预算。采购整套 AI 系统,需要把这些环节一起计算,并确认每一项报价已经包含哪些部件和服务。
估算中 GPU 和 CPU 合计约 414 万美元
Vera Rubin NVL72 是机架级计算系统。按照 Nvidia 公布的规格,一套系统集成 72 颗 Rubin GPU 和 36 颗 Vera CPU,并通过第六代 NVLink 连接 GPU,使它们能够协同处理大型模型。
媒体转引的 Morgan Stanley 估算,按每颗 Rubin GPU 约 5.5 万美元、每颗 Vera CPU 约 5000 美元计算:72 颗 GPU 合计 396 万美元,36 颗 CPU 合计 18 万美元,共约 414 万美元,占 780 万美元的一半多。这些单价是估算采用的采购假设。
报道列出的内存相关金额为 2,001,600 美元,较 GB300 NVL72 的约 37.4 万美元增加约 435%。Tom's Hardware 的解释同时讨论了 DRAM 和 NAND 闪存,因此这里的“内存”是较宽的存储器口径,不能只理解为 HBM4 与 LPDDR5X。公开转述也不足以核对全部部件是否已计入 GPU 等分项报价,合计时需要避免重复。
最多约 74.7 TB 内存,容量增加推高支出
容量增加是支出上升的原因之一。Nvidia 规格显示,每颗 Rubin GPU 配备 288 GB HBM4,整机约 20.7 TB HBM4;每颗 Vera CPU 支持最多 1.5 TB LPDDR5X,整机最多 54 TB LPDDR5X。两者合计最多约 74.7 TB。HBM4 向 GPU 提供高带宽数据访问,LPDDR5X 则承担 CPU 侧的大容量内存需求。
以 Tom's Hardware 拆解中采用的单价假设计算,若 LPDDR5X 为每 GB 8 美元,54 TB 按十进制换算,金额约为 43.2 万美元。这只是容量乘单价;SOCAMM2 模组制造、测试及供应商加价等,还会影响最终报价。
该报道还估计,相关 Vera Rubin 系统的 3D NAND 存储支出约为 100 万美元或更多。容量和配置未获 Nvidia 官方报价确认,不能据此认定每个 NVL72 机架都必须采用相同存储方案。长上下文推理的 KV 缓存,以及数据处理和模型加载,会增加系统对不同层级存储的需求;实际配置仍要结合工作负载决定。
采购预算还要计入网络、供电和冷却
Vera Rubin 的设计强调多种部件共同工作。Nvidia 将 Vera CPU、Rubin GPU、NVLink 6、ConnectX-9、BlueField-4 和 Spectrum-6 纳入协同设计,计算托盘也整合了液冷、网络与管理部件。这种集成可以减少部署衔接,但整套系统仍依赖各部件及时供货和稳定运行。
对云服务商而言,GPU 数量乘单价只能提供部分预算。主机内存、存储、交换网络、配电、冷却和维保都需要另外核算。关键部件供货不足,即使 GPU 已经到位,也可能推迟集群上线。
对服务器厂商而言,更多预组装部件可能缩短部署时间,也可能减少自主设计空间。Tom's Hardware 此前根据供应链消息报道,Nvidia 可能提供高度集成的 L10 计算托盘,让 ODM 更集中于机架集成、配电、冷却分配和管理软件。这描述的是可能的供货分工,具体安排仍需以合作伙伴交付方案为准。
最终成交价仍取决于配置和服务条款
780 万美元并非所有 Vera Rubin NVL72 的统一成交价。配置、采购量、网络与存储选项、保修和交付条款都会改变最终金额。另一篇供应链报道给出的相关机架报价区间为 500 万至 700 万美元;不同时间和供货范围的估计不能直接并成一张价目表,部分数字也可能不包含完整维保。
对准备部署下一代集群的公司来说,这些估算提示了同一件事:除了 GPU 配额,还需要确认内存、存储、网络、供电和冷却的成本与交付时间。把采购范围、重复计价项和后续服务写清楚,才能比较不同供应商方案,以及整套系统投入运行后的成本。
