三星电子为了向英伟达提供新一代高带宽存储器(HBM),投入了400多名半导体ACE(最高水平的)员工。
“三星电子为打通特定客户公司投入这么多人力,实属史无前例。”有分析认为,只有抓住“英伟达”才能掌握市场主导权,所以三星动员了公司的全部力量。
据产业界透露,三星电子为了在今年第三季度向英伟达交付现有最高性能HBM——12层HBM3E产品,最近组织了100人规模的特别工作组(TF)。据悉,应英伟达“提高HBM的质量和良率,加快交货”的要求,该TF集中致力于提高良率,第一个目标是本月通过英伟达的质量认证测试,其余300多人被分配到HBM4开发团队。他们计划最早在年末左右完成HBM4的开发,明年敲开英伟达的大门。
对于从第三季度开始举行的“第五代高带宽存储器”(HBM3E)市场,三星和SK正在调整战局。这是为了在今年的英伟达HBM3E(估计超过10万亿韩元,528亿元人民币)订单战中获胜。这是三星和SK海力士首次在同一时间对同一规格的HBM产品、同一客户、同一时间进行供货对决。
胜负关键是12层HBM3E产品。目前,两家公司都将试制品送到英伟达接受“质量测试”(quality test,质量验证),结果一两个月就出来了。市场上说,两家公司都很有可能获得英伟达的批准,因此胜负取决于获得多少订单。也就是说,获得大量订单的企业被冠以“HBM霸权企业”的头衔,订单量相对较少的公司被冠以“HBM二等企业”的烙印。
HBM是与英伟达的图形处理器(GPU)一起成为人工智能(AI)时代“超级明星”的半导体。首先,将DRAM削薄,整齐地堆积起来,然后穿过数千个贯穿芯片的孔,在那里填充导电物质,利用所谓的“硅穿透电极(TSV)”技术,将堆叠的DRAM上下电连接起来,像一个身体一样移动。这与在高层公寓安装电梯是相似的概念。
由于积累了多个DRAM,带宽(一次发送数据的能力)和存储容量是普通DRAM的10倍以上,因此被评价为AI时代的必需品。这是在旁边保管大容量数据后快速发送的最佳产品,让充当AI加速器(数据学习、推理专门的半导体)大脑的GPU可以不间断地工作。
HBM最初与AI相去甚远。2010年游戏显卡企业英伟达、AMD向存储芯片企业要求高带宽DRAM才刚刚开始。显卡要想玩高清游戏,需要快速处理大容量像素数据,因为当时帮助GPU的普通DRAM性能下降。
SK海力士与AMD合作开始共同研究,3年后的2013年12月,SK海力士公开了首款HBM。该产品于2015年6月问世。到此为止了。当时HBM的价格是图形DRAM(GDDR)的两三倍,但性能没有那么好。AMD放弃将不值钱的HBM放入显卡。
挽救陷入危机的HBM的是英伟达。英伟达关注HBM适合处理大容量数据,并将其应用于服务器产品。就这样,在2016年推出的AI加速器“Tesla P100 ”上安装了HBM2。但就在那时,AI加速器的需求还不多,HBM是非主流产品,不到DRAM总销售额的5%。
2022年底推出的ChatGPT等生成型AI彻底改变了半导体版图。随着科技巨头争先恐后地投入到生成AI的开发中,AI加速器的需求爆发性地增加,HBM的身价也随之跃升。当时最新的HBM是第四代HBM3,带宽为每秒819GB,是第一代HBM(128GB)的6.4倍。当时能制造HBM3的企业只有SK海力士。SK海力士去年拿走了90%以上的HBM3市场,实际上已经垄断市场。据悉,HBM3是普通DRAM的5倍以上,利润率为50%。这也是SK海力士今年第一季度营业利润(2.8860万亿韩元)能够领先三星电子半导体部门(1.91万亿韩元)的原因。
三星很晚才开始批量生产HBM3。英伟达和SK海力士牢固构筑的“HBM同盟”无论怎么动摇都不容易破裂。三星本应满足于以进入普通服务器等的HBM2等低价产品延续命脉。
这也是三星将公司力量集中在12层HBM3E产品上的原因。HBM3E将带宽提升到每秒1180~1280GB。事实上,三星认为,在同样的条件下与SK海力士决胜负,因此有充分的胜算。英伟达之所以出现增加HBM供货渠道的动向,也是对三星的利好。
今年2月,三星在世界上首次开发出了业界最大容量的36GB 12层HBM3E产品。与8层HBM3相比,AI学习训练速度平均可以提高34%。业界预测,如果通过目前正在进行的英伟达测试,第三季度将完成交货。SK海力士也计划本月发送样品后,第三季度开始供应12层HBM3E产品。
两家公司之所以选择这款产品,是因为英伟达的新一代AI加速器B200、GB200很有可能安装在上面。这些产品是新一代核心AI加速器,性能比目前的主力产品H100提高了30倍。H100和H200分别安装了4个和6个HBM3,B200中有8个HBM3E。B200和GB200的升级版本很有可能包含8个以上的12层HBM3E。这也是今年HBM市场规模预计将比去年(43亿美元)增加4倍,达到169亿美元的原因。也有预测称,2030年左右HBM市场规模将扩大到50万亿韩元。
据悉,英伟达CEO黄仁勋煽动三星和SK的竞争,要求提前交货。几个月后三星能否翻盘,SK海力士能否稳居第一。