NVIDIA GTC趋势,硬件方面,今年亮点产品为Blackwell AI服务器架构平台,辅以第二代Transformer引擎与第五代NVLink技术可支援高达10兆参数模型之AI训练与实时LLM推理,并以此为基础推出B100、B200与GB200等AI芯片,为市场AI应用预备。由于NVIDIA产品迭代快速,提升产品成效是关键,在成本与能耗比大幅优化的前提下,上述产品有望在2024年底陆续上市,并于2025年成为市场主流。
此外,TrendForce集邦咨询表示,从NVIDIA此前发布的AI产品规划来看,B100系列的后继产品为X100、GX200等产品,虽然信息尚未明朗。然而,根据其设计态势与对主权AI(Sovereign AI)的推动,积极发展NVLink串连更多算力,以及大幅降低相对能耗预计为考量重点,而后者或将使其积极采用具备高效能特性的HBM。
产业应用方面,NVIDIA GTC 2024产品服务涉及面向多元,但发展核心仍以医疗、制造两者为重。以前者为例,NVIDIA此次针对医疗推出20余项医疗专用生成式AI微服务(Microservices),同时亦更新BioNeMo模型以强化计算机辅助药物开发;制造方面,则是推出适用于人形机器人的GR00T项目基础模型,以及透过Isaac平台将生成式 AI 用于制造和物流应用。
NVIDIA的基础工具一般能适用于多元产业,TrendForce集邦咨询认为,聚焦医疗、制造的主因在于智慧化基础高、转型诱因强烈,且数据资料虽多且杂,但密闭空间相对好搜集,加上模拟技术越趋成熟。因此,对于欲打造数据即服务(Data as a Service;DaaS)的NVIDIA而言,能将数据应用有效转化为高附加价值的解决方案才是优先。在此前提下,随着自驾车、电动车市场逐渐成熟,往智慧载体演化的汽车产业将有望成为下阶段发展重点。