IT 行业将需要 6 万至 7 万台基于 B200 的服务器。
《联合报》援引摩根士丹利的一份报告称,英伟达及其合作伙伴将对每只AI服务器机柜收取大约200万美元至300万美元的费用,这种AI服务器配备英伟达即将推出的 Blackwell GPU。到 2025 年,IT 行业将需要数万台 AI 服务器,它们的总成本将超过 2000 亿美元。
到目前为止,英伟达已经推出了两款基于 Blackwell 架构的 AI 服务器机柜:NVL36,配备 36 个 B200 GPU,预计成本起价 200 万美元(根据之前的报道,起价为 180 万美元),以及 NVL72,配备 72 个 B200 GPU,预计起价为 300 万美元。
NVL36 和 NVL72 服务器机柜(或pod)不仅可以从英伟达本身及其传统合作伙伴(比如全球最大的 AI 服务器供应商富士康、广达和纬创)处购得,还可以从华硕等新进入者处购得。
假设英伟达的合作伙伴台积电能够利用其 4nm 级光刻工艺技术生产足够数量的 B100 和 B200 GPU,并使用其晶圆基板上芯片(CoWoS)技术进行封装,那么来自新来者的供货应该会切实缓解基于 Blackwell 的机器供应紧张的问题。
据摩根士丹利的报告显示,英伟达预计明年 B200 服务器机柜的出货量将在 6 万台至 7 万台之间,每台售价在 200 万美元至 300万美元。
简单换算一下,这些机器带来的年收入估计至少为 2100 亿美元,这意味着像 AWS 和微软这样的公司将在这方面投入更多的开销。
这让我们想到了红杉资本合伙人 David Cahn 给出的数据,他认为 AI 行业必须赚到 6000 亿美元左右,才能支付机器和数据中心的成本。
市场对 AI 服务器的需求在屡创历史记录,而且短期内不会放缓,这将使 AI 服务器制造商和 AI GPU 开发商同同受益。
尽管竞争对手不断涌入,但英伟达的 GPU 仍将是训练和许多推理工作负载的事实上的标准,这对该公司有利。
摩根士丹利的同一份报告根据与业内人士的交谈内容披露,AWS、戴尔、谷歌、Meta 和微软等国际 IT 巨头都将采用英伟达的 Blackwell GPU 用于 AI 服务器。
报告称,因此,如今预计需求将超过预期,于是英伟达只好将它与台积电所签的订单量增加了约 25%。
机柜论只,为什么不论头