当地时间2月27日,加拿大AI芯片初创公司Tenstorrent宣布与日本尖端半导体技术中心(LSTC)达成多层次合作协议,双方将合作设计先进人工智能(AI)芯片。
值得一提的是,Tenstorrent将与日本半导体公司Rapidus合作开发最先进的逻辑半导体技术,其目标是实现世界上最好的周期时间缩短服务。Tenstorrent还将利用其Ascalon RISC-V CPU内核技术,为LSTC的新型边缘AI加速器共同开发RISC-V架构CPU芯片。
近年随着ChatGPT、Sora等大规模生成式AI应用爆发,云计算、AI服务器等市场对AI芯片需求大幅增长,业界对AI芯片的关注度持续上升。
在AI市场大热之下,除了企业相互合作加强研发外,近期业界消息还显示,AI芯片产能稀缺,AI所需的重要内存技术HBM售罄,高端AI服务器需求量上升...
AI芯片产能稀缺
AI芯片需求暴涨,其产能也引发业界关注。此前2月初,据媒体报道,英伟达与英特尔达成了代工合作意向,持续每月生产5000块晶圆。如果全部用于生产H100芯片,在理想情况下最多可以得到30万颗芯片。
2月下旬,英特尔向业界首推面向AI时代的系统级代工——英特尔代工(Intel Foundry),并拓展其路线图,以在接下来的几年内确立并巩固制程技术领先性。
对此晶圆代工龙头台积电创办人张忠谋在日本熊本厂JASM开幕仪式上表示,半导体产业未来一定会有更多需求,最近AI人士告诉他需要的不只是几万、几十万和几千万片产能,而是3间、5间甚至10间晶圆厂。
不过张忠谋认为,AI带给半导体产业的需求,在某种程度上取一个中间值,即从成千上万片产能到10间晶圆厂中间找寻到答案。
针对AI芯片供不应求的现象,富士康母公司鸿海精密董事长刘扬伟表示,鸿海今年AI服务器业务相当好,但目前整体AI服务器产业仍面临AI芯片大缺货的状况,即便下半年AI芯片供应舒缓一些,还是赶不上需求,必须等到上游新厂产能开出,才有办法解决产业链缺料问题。
HBM售罄
随着AI爆热,市场对高带宽内存(HBM)需求旺盛,存储大厂们瞄准HBM,积极扩产布局。其中,三星计划在今年第四季度之前,将HBM的最高产量提高到每月15万至17万件,该公司斥资105亿韩元收购了三星显示位于韩国天安市的工厂和设备,以扩大HBM产能,同时还计划投资7000亿至1万亿韩元新建封装线。
SK海力士和美光科技纷纷表示HBM订单约满。SK海力士副社长Kim Ki-tae表示,今年公司的HBM已经售罄,已开始为2025年做准备;美光科技CEO Sanjay Mehrotra透露,美光2024年的HBM产能预计已全部售罄。
高端AI服务器需求量将逾六成
据TrendForce集邦咨询最新预估,以2024年全球主要云端服务业者(CSP)对高端AI 服务器(包含搭载NVIDIA(英伟达)、AMD或其他高端ASIC芯片等)需求量观察,预估美系四大CSP业者包括Microsoft、Google、AWS、Meta各家占全球需求比重分别达20.2%、16.6%、16%及10.8%,合计将超过6成,居于全球领先位置。其中,又以搭载英伟达 GPU的AI服务器机种占大宗。
TrendForce集邦咨询指出,近期英伟达整体营收来源以数据中心业务为关键,主因其GPU服务器占整体AI市场比重高达6~7成,只是后续仍须留意三大状况,可能使英伟达发展受限。
TrendForce集邦咨询认为,其一,受国际形势变化影响,中国将更致力于AI芯片自主化。而英伟达推出的H20等中国特规方案,性价比可能不及既有的H100或H800等,中国客户采用度可能较先前保守,进一步影响英伟达市占率。
其二,在具规模及成本考量下,美系大型CSP业者除Google、AWS外,Microsoft、Meta等亦有逐年扩大采自研ASIC趋势。
其三,来自AMD的同业竞争,AMD采高性价比策略,对标英伟达同级品,AMD提供仅60~70%价格,甚至代表性或具规模客户能以更低价策略方式抢进市场,预期2024年尤以Microsoft为最积极采纳AMD高端GPU MI300方案业者。