According to reports, Nvidia's GPU production will triple by 2024: H100 is expected to reach 2 million units.

华尔街见闻
2023.08.25 00:59
portai
I'm PortAI, I can summarize articles.

产量扩大三倍,收入扩大三倍?

面对 AI 芯片巨大的供需缺口,英伟达制订了一项雄心勃勃的计划。

据英国《金融时报》当地时间周三报道,三位接近英伟达的人士透露称,英伟达目前计划将旗舰 H100 显卡的产量至少增加两倍,到 2024 年 H100 的出货量将达到 150 万至 200 万块,比今年预期的 50 万块大幅跃升。英伟达 H100 的需求火爆异常,以至于到 2024 年都已售罄。

对此,科技媒体 tom'sHARDWARE 评论称,如果英伟达成功实现这一目标,并且 AI 和高性能计算 (HPC) 应用对其 A100、H100 和其他计算 CPU 的需求保持强劲,这可能意味着英伟达将攫取令人难以置信的收入。

由于英伟达的 CUDA 框架(运算平台)是为 AI 和 HPC 工作负载量身定制的,因此有数百种应用程序只能在英伟达的 GPU 上运行。亚马逊 Web 服务(AWS)和谷歌都有自己的定制 AI 处理器用于 AI 训练和推理工作负载,但他们还必须购买大量英伟达 GPU,因为客户希望在 GPU 上运行应用程序。

然而,提高 H100 这种高性能芯片的产量并不容易。英伟达 H100 基于该公司的 GH100 处理器,而 GH100 的制造相当困难。

首先,GH100 计算型 GPU 是一块尺寸为 814mm*2 的巨大硅片,因此很难大批量生产。尽管目前该产品的良率可能相当高,但英伟达仍需要从台积电获得大量 4 纳米晶圆供应,将其基于 GH100 的产品产量扩大三倍。粗略估计,台积电和英伟达每 300 毫米晶圆最多可以生产 65 个显卡。

因此,制造 200 万枚此类显卡需要近 3 万片晶圆,这当然是可能的。目前,台积电 5 纳米级晶圆产量为 15 万片/月,客户主要包括 AMD、苹果、英伟达。

其次,GH100 依赖 HBM2E 或 HBM3 内存,并使用台积电的 CoWoS 先进封装,因此英伟达也需要确保这方面的供应。目前,台积电正在努力满足 CoWoS 先进封装的需求。

第三,由于基于 H100 的设备使用 HBM2E、HBM3 或 HBM3E 内存,因此英伟达还必须从美光、三星和 SK 海力士等公司获得足够的 HBM 内存包。

最后,H100 必须获得安装,因此英伟达需要确保其合作伙伴的 AI 服务器输出至少扩大三倍,这又带来了新的问题。