英伟达新一代 AI 机架采购成本估至 780 万美元,内存与存储占约四分之一 | AGIDaily
AGI Daily
资讯日报词条论文人物新创

英伟达新一代 AI 机架采购成本估至 780 万美元,内存与存储占约四分之一

2026-05-21 / 共 1,715 字

JOSH EDELSON / AFP via Getty Images

5 月 21 日,多家媒体转引 Morgan Stanley Research 的估算称,Nvidia 下一代 Vera Rubin NVL72 面向大型云服务商的单机架采购成本,可能达到约 780 万美元。报道把其中约 200 万美元归入内存与存储相关支出,约占四分之一。这个金额来自机构估算,Nvidia 尚未公布统一官方标价。

这份估算的关注点是成本构成。GPU 仍是主要支出,但内存、存储、网络、供电和液冷也占用大量预算。采购整套 AI 系统,需要把这些环节一起计算,并确认每一项报价已经包含哪些部件和服务。

估算中 GPU 和 CPU 合计约 414 万美元

Vera Rubin NVL72 是机架级计算系统。按照 Nvidia 公布的规格,一套系统集成 72 颗 Rubin GPU 和 36 颗 Vera CPU,并通过第六代 NVLink 连接 GPU,使它们能够协同处理大型模型。

媒体转引的 Morgan Stanley 估算,按每颗 Rubin GPU 约 5.5 万美元、每颗 Vera CPU 约 5000 美元计算:72 颗 GPU 合计 396 万美元,36 颗 CPU 合计 18 万美元,共约 414 万美元,占 780 万美元的一半多。这些单价是估算采用的采购假设。

报道列出的内存相关金额为 2,001,600 美元,较 GB300 NVL72 的约 37.4 万美元增加约 435%。Tom's Hardware 的解释同时讨论了 DRAM 和 NAND 闪存,因此这里的“内存”是较宽的存储器口径,不能只理解为 HBM4 与 LPDDR5X。公开转述也不足以核对全部部件是否已计入 GPU 等分项报价,合计时需要避免重复。

最多约 74.7 TB 内存,容量增加推高支出

容量增加是支出上升的原因之一。Nvidia 规格显示,每颗 Rubin GPU 配备 288 GB HBM4,整机约 20.7 TB HBM4;每颗 Vera CPU 支持最多 1.5 TB LPDDR5X,整机最多 54 TB LPDDR5X。两者合计最多约 74.7 TB。HBM4 向 GPU 提供高带宽数据访问,LPDDR5X 则承担 CPU 侧的大容量内存需求。

以 Tom's Hardware 拆解中采用的单价假设计算,若 LPDDR5X 为每 GB 8 美元,54 TB 按十进制换算,金额约为 43.2 万美元。这只是容量乘单价;SOCAMM2 模组制造、测试及供应商加价等,还会影响最终报价。

该报道还估计,相关 Vera Rubin 系统的 3D NAND 存储支出约为 100 万美元或更多。容量和配置未获 Nvidia 官方报价确认,不能据此认定每个 NVL72 机架都必须采用相同存储方案。长上下文推理的 KV 缓存,以及数据处理和模型加载,会增加系统对不同层级存储的需求;实际配置仍要结合工作负载决定。

采购预算还要计入网络、供电和冷却

Vera Rubin 的设计强调多种部件共同工作。Nvidia 将 Vera CPU、Rubin GPU、NVLink 6、ConnectX-9、BlueField-4 和 Spectrum-6 纳入协同设计,计算托盘也整合了液冷、网络与管理部件。这种集成可以减少部署衔接,但整套系统仍依赖各部件及时供货和稳定运行。

对云服务商而言,GPU 数量乘单价只能提供部分预算。主机内存、存储、交换网络、配电、冷却和维保都需要另外核算。关键部件供货不足,即使 GPU 已经到位,也可能推迟集群上线。

对服务器厂商而言,更多预组装部件可能缩短部署时间,也可能减少自主设计空间。Tom's Hardware 此前根据供应链消息报道,Nvidia 可能提供高度集成的 L10 计算托盘,让 ODM 更集中于机架集成、配电、冷却分配和管理软件。这描述的是可能的供货分工,具体安排仍需以合作伙伴交付方案为准。

最终成交价仍取决于配置和服务条款

780 万美元并非所有 Vera Rubin NVL72 的统一成交价。配置、采购量、网络与存储选项、保修和交付条款都会改变最终金额。另一篇供应链报道给出的相关机架报价区间为 500 万至 700 万美元;不同时间和供货范围的估计不能直接并成一张价目表,部分数字也可能不包含完整维保。

对准备部署下一代集群的公司来说,这些估算提示了同一件事:除了 GPU 配额,还需要确认内存、存储、网络、供电和冷却的成本与交付时间。把采购范围、重复计价项和后续服务写清楚,才能比较不同供应商方案,以及整套系统投入运行后的成本。

来源

  • NVIDIA Vera Rubin NVL72 · NVIDIA
  • Inside the NVIDIA Vera Rubin Platform: Six New Chips, One AI Supercomputer · NVIDIA Technical Blog
  • Nvidia's memory costs soar 485%, latest AI systems now cost $7.8 million to build · Tom's Hardware
  • Price of Nvidia's Vera Rubin NVL72 racks skyrockets to as much as $8.8 million apiece · Tom's Hardware
  • NVIDIA Vera Rubin Rack Hit With 435% Memory Price Surge · WCCFTech

评论

登录后即可参与评论。

加载评论中…

相关文章

  • 现代数据中心内部服务器机架,展示液冷与高密度计算基础设施

    英伟达公布欧洲 35 台超算项目,Vera CPU 承担 AI 工具与代码运行

    2026-06-23

  • 英伟达 CEO 黄仁勋,2026 年 7 月 16 日在东京

    英伟达二季报营收 962 亿美元超预期,毛利率指引降至 74%

    2026-08-27

  • AMD 展示的 Threadripper Halo Station 液冷塔式工作站

    AMD 展示大内存 AI 工作站,2.6TB 是四卡配置上限

    2026-09-04

  • Robion 在两条 GPU 执行流上并行运行 VLM 与动作扩散阶段,并动态限制 VLM 可用 SM 的示意图
AGI Daily跟踪世界 AI 进展
邮件栏目主题RSS
定制投稿招聘广告
关于MCPTermsContact

四张 GPU“服务 64 台机器人”:Robion 测到的是请求容量

2026-09-10

  • NVIDIA Groq 3 LPX 机架渲染图,展示 Vera Rubin 平台中负责低延迟推理的加速器机架

    Nvidia 把竞争推向整套系统:GPU 之外,数据怎样更快送达

    2026-08-31

  • SK Group 和 NVIDIA 标志并排展示,代表双方战略合作

    英伟达与 SK 集团拟开展超 5000 亿美元合作,涉及 HBM 和数据中心

    2026-07-27