三星电子和 SK 海力士等高带宽存储器 (HBM) 公司预测,“定制 HBM”市场将在 2027 年后开放。据悉,随着人工智能(AI)市场日趋多样化,以及HBM用户的规格要求日趋多样化,两家存储器公司都在开发可为客户提供多种选择的半导体技术。
据业界消息人士1月12日透露,三星电子常务董事金仁东和SK海力士副总裁姜善国去年年末在全球无晶圆厂芯片公司Marvell 在美国举办的分析师活动上透露了这一消息。
姜善国表示,“第八代HBM(HBM5)的标准尚未确定,第六代HBM(HBM4)的标准产品将在2026年底成为主流,从2027年开始将正式开始定制HBM的生产”。金仁东表示:“我们需要结合先进封装、内存和逻辑半导体技术的尖端技术。有预测称,到 2029 年,定制 HBM 市场规模将扩大到 380 亿美元。
HBM 是通过垂直堆叠多个 DRAM 制成的芯片。它紧邻信息处理单元(GPU)并负责存储数据。它的优势在于,数据移动速度比现有的 DRAM 模块快得多,存储容量也比单个 DRAM 更大。随着人工智能(AI)市场的蓬勃发展,HBM 近期受到了广泛关注。这是因为全球排名第一的AI半导体公司NVIDIA正在其最新的AI半导体产品中积极采用HBM。
业界明显呈现一种趋势,即青睐“定制”HBM,而非“标准”HBM。随着AI市场从‘学习’各种数据的阶段,转向以各种方式应用这一点的‘推理’市场,大型科技公司也对自己的芯片提出了要求。正如谷歌最近脱离了 Nvidia 的供应链,将自己的 AI 芯片张量处理单元 (TPU) 的设计外包给博通一样,HBM 现在也处于必须根据每个人的需求进行量身定制的境地。
Marvell 高级副总裁 Will Chu 表示:“由于所有客户都希望将半导体纳入其基础设施,因此对定制 HBM 的需求正在增长。”
由于现有的HBM有多个DRAM堆叠在一起,并且正在传输大量数据,因此还需要能够最大限度地减少各种条件下发生的发热问题的芯片。三星电子和SK海力士意识到了这种现象,并正在考虑各种形式的定制HBM。最显著的变化是基底芯片的变化,它控制着堆叠 DRAM 底部的信息移动。根据客户需求,我们正在考虑一种方法,即加入一个以前在这个基础芯片上不存在的算术单元 (ALU),以有效地帮助在 GPU 和 HBM 之间移动数据。
将HBM直接置于计算单元上方的所谓“3D HBM”也正在受到关注,预计甚至会有人尝试颠覆现有的 GPU-HBM-冷却单元的芯片排列,以便解决日益严重的发热现象。
同时,HBM 的技术演进预计今年还将继续。今年,三星电子和SK海力士预计将加速HBM4商业化的准备。尤其值得注意的是,HBM4 的基底芯片采用系统半导体工艺制造。三星电子已经在自家的4nm(纳米,十亿分之一米)晶圆代工厂开始自行生产,SK海力士则与全球头号晶圆代工企业台积电合作,准备量产基底芯片。