AI浪潮之下,高容量、高性能的HBM正是存储行业当下火热的“明星”技术,受下游驱动,HBM市况正供不应求,产值持续攀升,存储原厂纷纷加强布局。
近期,全球两大存储原厂三星和美光传来新的动态:美光科技考虑在马来西亚生产HBM、三星电子存储部门计划重组。
据日经亚洲引述知情人士透露,美光科技正在美国建设先进高带宽存储(HBM)芯片的测试生产线,并首次考虑在马来西亚生产HBM,满足AI热潮带来的更多需求。
除了马来西亚,其实美光最大的HBM生产基地在台湾地区,该基地目前也正在增加产能。美光此前表示,公司目前正积极强化HBM技术并同步扩充产能,公司目标是到2025年将HBM(AI芯片的关键组件)的市场份额提高三倍以上,达到20%左右。
据韩国经济日报引述业内人士透露,由于存储业务面临挑战,三星电子存储部门计划在下半年将进行大规模重组。针对三星此举,业界猜想,此次重组或有助于三星电子在HBM等核心事业重新取得领先地位。
高性能、高效力要求:HBM“当仁不让”
当前,随着人工智能、云计算等应用领域不断拉动存储需求,存储芯片行业正走向转折的重要时刻,其中具备高容量、高带宽、低延时与低功耗等特性的HBM正发挥着显著作用,并认为是当下AI算力的关键技术。
全球市场研究机构集邦咨询资深研究副总经理吴雅婷昨日在2024集邦咨询半导体产业高层论坛上强调了HBM对存储行业的重要性,并表示,AI运算的范畴当中,最重要的三个要素为accelerator、memory与networking,而memory以HBM为关键性的解决方案。
从作用层面上来讲,据美光指出,在AI相关硬件中,内存和存储层次结构并非仅是GPU和CPU的补充,更是决定AI能力和潜力的关键。近内存位于顶部,包括其高带宽内存(HBM)解决方案HBM3E等技术。该层用于直接高速处理与CPU或GPU相邻的数据,可大幅减少延迟并增加带宽。借助近内存硬件,AI能够以前所未有的效率执行复杂的计算并处理大量数据,对于实时分析和决策应用至关重要。
自HBM领域爆火以来,各大厂快速迎合市场需求,从HBM最新发展进度来看,TrendForce集邦咨询表示,NVIDIA的Blackwell与AMD MI350/MI375全采用HBM3e,特别集中12hi产品,最高容量上达288GB,将有助于延续单一位元均价的持续上升,且于2025年成为市场主流。
出货进展方面,HBM3e集中在今年下半年出货,目前SK海力士(SK hynix)依旧是主要供应商,与美光(Micron)均采用1beta nm制程,两家业者现已正式出货给英伟达(NVIDIA);三星(Samsung)则采用1alpha nm制程,预期今年第二季完成验证,于年中开始交付。
值得一提的是,此前业界传闻三星HBM因过热问题而未能通过英伟达测试。对此英伟达CEO黄仁勋在2024年中国台北国际电脑展上表示,公司正在努力测试三星和美光生产的HBM芯片,但目前尚未通过测试,因为还有更多的工程工作要做,认证三星HBM需要更多工作和充足耐心,并强调英伟达与三星的合作进展顺利。
此外,HBM主要应用在AI服务器等领域,从出货量上看,今年AI服务器出货量增长明显,同时将拉升相关HBM内存需求。集邦咨询资深分析师龚明德表示,随着CSPs(云端服务业者)及品牌业者等对AI服务器需求续强,预期2024年整体AI服务器(含搭载GPU、FPGA、ASIC等)出货量成长近41%,占整体服务器比例自2023年仅约9%,上升至逾12%。