华尔街见闻
2024.04.27 03:02
I'm PortAI, I can summarize articles.

赛道 Hyper | 同室操戈:三星存储搏杀海力士

韩国 SK 海力士和三星电子在高带宽内存(HBM)领域展开竞争,海力士暂时领先。HBM 作为 AI 加速卡的核心硬件,成本占比最高,因此成为各方关注的焦点。海力士已开始量产第五代 HBM3E 存储器,而三星计划在今年量产 HBM3E,并向英伟达供货。此外,美光科技也参与竞争,其技术实力有可能逆袭。三方竞争加剧了 AI 加速卡、大语言模型和 HBM 的竞争热度。

作者:周源/华尔街见闻

尽管英伟达最近股价连续下挫,但 GenAI(生成式 AI:Generative Artificial Intelligence,也称 GAI)为上游高带宽内存(HBM)为存储行业带来了久违的景气度。

HBM 占通用内存市场的 15%,而 2022 年这一比例为 8%(数据来源:路透社)。

因未来可见的巨大收益,全球顶尖 HBM 生产商——韩国 SK 海力士和三星电子,两虎激斗,如火如荼。

目前,海力士在 HBM 品类上暂时领先。三星的对策是奋起直追以缩小与海力士的 HBM 差距,同时在 CXL(计算快速链接:Compute Express Link)和 GDDR 7 两个赛道开启新战局。

在这场混战中,美光科技也没闲着,其技术实力也有逆袭可能。

三方混战:美光科技突袭

GAI 技术推升了 AI 加速卡(GPU/ASIC/FPGA)、大语言模型(LLM)和 HBM(High Bandwidth Memory)的竞争热度。

其中,HBM 是 AI 加速卡的核心硬件,成本占比最高,所以也成为各方角逐的焦点。

英伟达 H100 系列 AI 加速卡,从成本结构看,占比最高的是来自海力士的 HBM,成本高达约 2000 美元,超过制造和封装,而 H100 总的官方零售价约 3000 美元(黑市价格远超)。因此,HBM 在 AI 加速卡中的成本占比高达 67%。

如此之高的收益,引来 SK 海力士和三星的同根相煎:双方互有胜负,打得有来有回。总体上,SK 海力士暂时领先。

今年 1 月,海力士开始量产 8 层第五代高带宽存储器(HBM3E),并取得早期领先。三星电子计划在今年上半年开始量产 8 层 HBM3E;2 月宣布成功开发 12 层 HBM3E。

根据既定计划,三星电子将在今年四季度量产 HBM3E,向英伟达供货。海力士这次又再次领先,今年二季度向英伟达交付 HBM3E 原型。但美光科技斜刺里杀将出来,提前取得供应商资格。

2024 年英伟达 AI 加速卡型号在市场中销量最高的是 H100,其上搭载的是 HBM3(第四代)。SK 海力士是最主要供应商,但因为 HBM 生产周期较长,故而海力士的 HBM3 产能不足以满足英伟达全部需求。2023 年底,三星电子进入英伟达 H100 供应链,但占比较小。

三星电子的 HBM3 主要供应 AMD,这是三星电子的长期重要的供应策略合作伙伴。目前,三星 HBM3 陆续通过 AMD MI300 系列验证。从今年二季度开始,三星电子的 HBM3 将逐渐放量,主要供应方就是 AMD,还有一小部分供应英伟达。

在 HBM3 的竞争格局中,只有 SK 海力士和三星电子有技术和量产能力,美光科技没能挤进。其中,海力士占据竞争上风。

2024 年,随着英伟达新一代 AI 加速卡 H200 和 B100 量产的逐渐临近,HBM3E 将取代 HBM3 成为竞争主流代际产品。

据 TrendForce 集邦咨询调查所得,2024 年一季度,SK 海力士率先通过 HBM3E 验证,美光科技紧跟其后,并于一季度末递交 HBM3E 量产品,以搭配计划在第二季末铺货的英伟达 H200。

美光科技此举不啻是对海力士的一次背刺,抢先海力士一步,率先获得了英伟达用于新款 H200 的 HBM3E 订单。

美光之所以率先获得英伟达用于 H200 的 HBM3E 订单,在近期竞争中占据主动,凭借的是工艺上的优势。目前 SK 海力士占据了 54% 的 HBM 市场,而美光仅为 10%,但随着手握英伟达的供应协议,形势可能很快会发生变化。

三星电子的 HBM3E 验证时间稍晚于海力士和美光科技。根据已知信息,三星也将在二季度供货英伟达,但也有消息称三星电子目前尚未进入英伟达 H200 供应链。对此,三星电子官方没有进一步明确消息。

好在 AMD 给力。4 月 24 日有韩媒报道称,三星电子和 AMD 签署了价值 4 万亿韩元(折合 21.77 亿美元)的 HBM3E 12H 供货合同。三星电子宣称,在人工智能应用中,采用 HBM3E 12H 预计比 HBM3E 8H 的训练平均速度提高 34%,同时推理服务用户数量也将增加 11.5 倍 +。

另外,目前仍没有消息显示三星电子的 HMB3 良率提升。此前,有未获官方验证的市场消息称,三星电子 HBM3 的良率至高也没超过 20%,而 SK 海力士则最高达到了 70%。

新战场:HBM4+GDDR7

三星电子在 HBM3 和 HBM3E 相较于 SK 海力士甚至美光科技,都有些许落后。于是寄望下一代 HBM4。

三星电子的 HBM4 还在开发中。根据技术路线规划,三星电子 HBM4 将于 2025 年首次亮相,但三星还没有公布其 HBM4 代号,之前的 HBM3 和 HBM3E 的代号分别是 “Icebolt” 和 “Shinebolt”。

当然,海力士 HBM4 也还在开发,合作方是台积电。4 与 19 日,SK 海力士宣布和台积电签署谅解备忘录(MOU),推进 HBM4 研发和下一代封装技术,目标在 2026 年投产 HBM4。

根据双方签署的谅解备忘录,两家公司初期目标是改善 HBM 封装内最底层基础裸片(Base Die)的性能。

HBM 是将多个 DRAM 裸片(即 Core Die)堆叠在基础裸片上,通过 TSV(硅通孔:Through-Silicon Via)技术垂直连接而成。其中,基础裸片也连接至 GPU,在 HBM 中扮演重要角色。

在此次与台积电的合作之前,海力士 HBM 所有基础裸片制造工艺都采用自研技术,但从 HBM4 开始,基础裸片制造工艺将改用台积电的先进逻辑(Logic)工艺。在封装成片环节,海力士 HBM4 将尝试采用台积电的 CoWoS 技术,以满足定制化(Customized)的性能和功效需求。

值得一提的是海力士也像三星电子一样,选择结盟合作伙伴。海力士选择了台积电:今年 2 月,海力士制定了 One Team 战略,通过与台积电的合作,建立 AI 半导体同盟,以期巩固其在 HBM 领域的领先优势。

可见,海力士选择台积电是因为后者的制造和封装能力,而三星电子自己就有与台积电相类似的技术,故而三星电子的合作方选用供应链的直接客户。

与台积电 CoWoS 封装技术不同,三星电子采用的是 TC-NCF(Thermal Compression with Non-Conductive Film),也就是非导电薄膜热压缩。

三星电子在描述这项技术时说:“这种方法的优点是可以最大限度地减少随着层数增加和芯片厚度减小而可能发生的翘曲,使其更适合构建更高的堆栈”。

今年 2 月,三星电子更新此项技术至 “Advanced TC-NCF”,能减少 TC-NCF 工艺中必要薄膜的厚度,从而在保持 HBM 高度的同时增加半导体层数。

三星 HBM3E 层数多达 12 层(H),实现了业界最小的 7 微米 (um) 芯片间距,是目前 HBM 市场中层数最大的产品,这是 TC-NCF 封装技术的结果。

三星认为,HBM 市场仍处于早期阶段,预计市场格局将迅速发生变化。三星电子的策略是通过预测市场发展并提前主动规划和开发必要的产品来保持领先地位。

值得一提的是,三星和 SK 海力士在 GTC 2024 上展示了即将推出的 GDDR7 内存解决方案,有望比预期更早进入市场。GDDR7 将提供更高的带宽和更低的功耗,为即将推出的显卡提供性能显著的提升。

美光科技预计 GDDR7 解决方案将于 2024 年底推出,以符合 JEDEC 标准。SK 海力士和三星已展示产品。据三星称,GDDR7 速度将高达 32 Gbps,而 SK 海力士则表示将提供高达 40 Gbps 的 GDDR7 芯片。