GH200 Grace Hopper超级芯片助力生成式AI

一、大语言模型和生成模型不断融合，多家科技企业纷纷入局

2022年底，OpenAI推出了大型语言生成模型ChatGPT，该产品具备语言生成、语言理解、语言翻译、自然语言处理、生成对抗网络等功能，可以通过学习现有的数据并生成新的数据，从而实现类似人类创造力的功能。由于其独特的技术创新、良好的用户体验，ChatGPT一经推出便火爆网络，进而拉开了大语言模型模型产业和生成式AI（AIGC）产业蓬勃发展的序幕，人机对话走向新高度。2023年前后大模型产品积极涌现，谷歌、百度、阿里等科技企业都在积极拥抱AIGC，不断推出相关技术、平台和应用。

大语言模型的兴起，为AIGC技术的地基——芯片带来新的机遇与挑战。ChatGPT算法模型从预训练模型的构建，到监督学习和人工干预学习的针对性训练，都需要耗费大量的数据和运算资源，这对人工智能芯片的算力提出非常高的要求。同时伴随着大语言模型的更新迭代，大模型算法对芯片在算力、互联、成本等方面的要求将不断提高，因此AI芯片技术要持续在芯片架构、算法优化、功耗控制等方面实现创新与进步。

二、GH200 Grace Hopper超级芯片平台首发，直面生成式AI产业痛点

8月8号，英伟达CEO黄仁勋在SIGGRAPH上发布最新GH200 Grace Hopper超级芯片平台，该平台结合了72核Grace CPU和Hopper GPU，在Grace Hopper处理器基础上实现重大改进。Grace Hopper使用了全球最新款的HBM3e显存，内存容量高达141GB，是NVIDIA H100 GPU的1.7倍，有效提升了处理器存储性能；Grace CPU与Hopper GPU通过NVLink进行高速连接，该链路具备缓存一致性和显存一致性，其具备4 petaflops的Transformer引擎处理能力，HBM3e显存的带宽性能可达5TB/s。该超级芯片平台不仅使数据推理成本下降，还能够连接多个GPU以实现卓越的性能和易于扩展的服务器设计，同时可应用于任何大语言模型。相对于x86 CPU芯片而言，该芯片平台将使数据中心功耗降低20倍，成本减少12倍。目前，GH200 Grace Hopper已经小规模生产，预计年底左右进行样品测试，明年第二季度末即可投入量产。芯片量产后将为加速计算提供有力支撑，同时也为全球数据中心向加速计算转型提供助力。

为进一步提升产业生态，英伟达还发布了NVIDIA AI Workbench、NVIDIA RTX及L40S等产品，并宣布更新基于快通用场景描述（OpenUSD）的NVIDIA Omniverse。NVIDIA AI Workbench是以帮助开发人员快速部署、开发生成式AI和大语言模型，其成功发布加速自定义生成式AI的应用。桌面AI工作站GPU系列针对不同应用场景推出4款新品，分别为RTX 6000、RTX 5000、RTX 4500和RTX 4000。针对数据中心市场，英伟达推出了最多可搭载8张L40S的OVX服务器。除了上述硬件产品外，黄仁勋还更新了应用于多个领域的虚拟仿真平台，对包括地理空间数据模型、指标组装和模拟就绪在内的OpenUSD进行增强。

三、多个领域进入生成式AI时代，产业或将发生颠覆性变革

生成式AI将所有人工智能技术进行了融合，使不同领域均能使用AI技术，生成式AI时代已经到来。AI技术通过采用革命性Transformer模型，能够从跨越时空的大数据中学习、寻找模式和关系，学习几乎所有具有结构的事物表征，进而使用数学表征和向量进行语言表达。AI技术通过学习具有结构性的事物，如：音频、动画、3D、视频、DNA、蛋白质和化学品等，借助生成式模型和学习到的语言模型，几乎可以生成所有内容，生成式AI技术正在反哺现有产业应用。

一是基础办公软件革新，适用于办公的生成式AI有望进一步普及。微软已经将GPT-4与ChatGPT能力融入了Office 365全栈生产力工具，可以根据办公需求自动生成文章、报告等文档，较大提升了数字化办公的智能化水平，可有效解放重复性的基础办公劳动力。同时，谷歌的Workspace、金山办公等办公软件企业也在积极围绕AIGC领域进行类似产品的研发，适用于办公的生成式AI有望得到进一步普及。

二是企业数字化转型迫切，企业海量应用需求待满足。近年来，宏观外部环境发生改变，企业所经受的各种不确定性和波动性增加，迫切希望通过数字化转型来提升企业韧性。云技术、数据、人工智能机器学习技术正在日趋成熟并不断融合，企业更趋向于直接购买“模型及服务”使用生成式AI技术，实现知识检索、数据分析、辅助编程、数字员工、交互硬件、数字人等应用。未来企业将更多地利用自身数据对预训练模型微调，从而让企业发展实现质的飞跃。

三是泛娱乐行业蓬勃发展，生成式AI得到有效实践。早在前些年影视剧中的AI换脸已经屡见不鲜，前一阵国内通过模型训练和后期处理AI生成模仿歌手声音的翻唱歌曲。生成式AI的发展有效地推动新闻写作、文学创作、音频生成、图像生成、视频生成等泛娱乐产业的发展。生成式AI已经可以实现通过现有草图补全全部图像的功能，也可以根据场景需求补充绿幕背景画面。