加入星计划,您可以享受以下权益:

  • 创作内容快速变现
  • 行业影响力扩散
  • 作品版权保护
  • 300W+ 专业用户
  • 1.5W+ 优质创作者
  • 5000+ 长期合作伙伴
立即加入
  • 正文
  • 推荐器件
  • 相关推荐
  • 电子产业图谱
申请入驻 产业图谱

GH200 Grace Hopper超级芯片助力生成式AI

2023/08/19
3275
阅读需 8 分钟
加入交流群
扫码加入
获取工程师必备礼包
参与热点资讯讨论

一、大语言模型和生成模型不断融合,多家科技企业纷纷入局

2022年底,OpenAI推出了大型语言生成模型ChatGPT,该产品具备语言生成、语言理解、语言翻译、自然语言处理、生成对抗网络等功能,可以通过学习现有的数据并生成新的数据,从而实现类似人类创造力的功能。由于其独特的技术创新、良好的用户体验,ChatGPT一经推出便火爆网络,进而拉开了大语言模型模型产业和生成式AI(AIGC)产业蓬勃发展的序幕,人机对话走向新高度。2023年前后大模型产品积极涌现,谷歌、百度、阿里等科技企业都在积极拥抱AIGC,不断推出相关技术、平台和应用。

大语言模型的兴起,为AIGC技术的地基——芯片带来新的机遇与挑战。ChatGPT算法模型从预训练模型的构建,到监督学习和人工干预学习的针对性训练,都需要耗费大量的数据和运算资源,这对人工智能芯片的算力提出非常高的要求。同时伴随着大语言模型的更新迭代,大模型算法对芯片在算力、互联、成本等方面的要求将不断提高,因此AI芯片技术要持续在芯片架构、算法优化、功耗控制等方面实现创新与进步。

二、GH200 Grace Hopper超级芯片平台首发,直面生成式AI产业痛点

8月8号,英伟达CEO黄仁勋在SIGGRAPH上发布最新GH200 Grace Hopper超级芯片平台,该平台结合了72核Grace CPU和Hopper GPU,在Grace Hopper处理器基础上实现重大改进。Grace Hopper使用了全球最新款的HBM3e显存,内存容量高达141GB,是NVIDIA H100 GPU的1.7倍,有效提升了处理器存储性能;Grace CPU与Hopper GPU通过NVLink进行高速连接,该链路具备缓存一致性和显存一致性,其具备4 petaflops的Transformer引擎处理能力,HBM3e显存的带宽性能可达5TB/s。该超级芯片平台不仅使数据推理成本下降,还能够连接多个GPU以实现卓越的性能和易于扩展的服务器设计,同时可应用于任何大语言模型。相对于x86 CPU芯片而言,该芯片平台将使数据中心功耗降低20倍,成本减少12倍。目前,GH200 Grace Hopper已经小规模生产,预计年底左右进行样品测试,明年第二季度末即可投入量产。芯片量产后将为加速计算提供有力支撑,同时也为全球数据中心向加速计算转型提供助力。

为进一步提升产业生态,英伟达还发布了NVIDIA AI Workbench、NVIDIA RTX及L40S等产品,并宣布更新基于快通用场景描述(OpenUSD)的NVIDIA Omniverse。NVIDIA AI Workbench是以帮助开发人员快速部署、开发生成式AI和大语言模型,其成功发布加速自定义生成式AI的应用。桌面AI工作站GPU系列针对不同应用场景推出4款新品,分别为RTX 6000、RTX 5000、RTX 4500和RTX 4000。针对数据中心市场,英伟达推出了最多可搭载8张L40S的OVX服务器。除了上述硬件产品外,黄仁勋还更新了应用于多个领域的虚拟仿真平台,对包括地理空间数据模型、指标组装和模拟就绪在内的OpenUSD进行增强。

三、多个领域进入生成式AI时代,产业或将发生颠覆性变革

生成式AI将所有人工智能技术进行了融合,使不同领域均能使用AI技术,生成式AI时代已经到来。AI技术通过采用革命性Transformer模型,能够从跨越时空的大数据中学习、寻找模式和关系,学习几乎所有具有结构的事物表征,进而使用数学表征和向量进行语言表达。AI技术通过学习具有结构性的事物,如:音频、动画、3D、视频、DNA、蛋白质和化学品等,借助生成式模型和学习到的语言模型,几乎可以生成所有内容,生成式AI技术正在反哺现有产业应用。

一是基础办公软件革新,适用于办公的生成式AI有望进一步普及。微软已经将GPT-4与ChatGPT能力融入了Office 365全栈生产力工具,可以根据办公需求自动生成文章、报告等文档,较大提升了数字化办公的智能化水平,可有效解放重复性的基础办公劳动力。同时,谷歌的Workspace、金山办公等办公软件企业也在积极围绕AIGC领域进行类似产品的研发,适用于办公的生成式AI有望得到进一步普及。

二是企业数字化转型迫切,企业海量应用需求待满足。近年来,宏观外部环境发生改变,企业所经受的各种不确定性和波动性增加,迫切希望通过数字化转型来提升企业韧性。云技术、数据、人工智能机器学习技术正在日趋成熟并不断融合,企业更趋向于直接购买“模型及服务”使用生成式AI技术,实现知识检索、数据分析、辅助编程、数字员工、交互硬件、数字人等应用。未来企业将更多地利用自身数据对预训练模型微调,从而让企业发展实现质的飞跃。

三是泛娱乐行业蓬勃发展,生成式AI得到有效实践。早在前些年影视剧中的AI换脸已经屡见不鲜,前一阵国内通过模型训练和后期处理AI生成模仿歌手声音的翻唱歌曲。生成式AI的发展有效地推动新闻写作、文学创作、音频生成、图像生成、视频生成等泛娱乐产业的发展。生成式AI已经可以实现通过现有草图补全全部图像的功能,也可以根据场景需求补充绿幕背景画面。

推荐器件

更多器件
器件型号 数量 器件厂商 器件描述 数据手册 ECAD模型 风险等级 参考价格 更多信息
1600688-8 1 TE Connectivity SQUEEZE REL RECEPT HSG W/KEYS

ECAD模型

下载ECAD模型
暂无数据 查看
NLC453232T-150K-PF 1 TDK Corporation General Purpose Inductor, 15uH, 10%, 1 Element, Ferrite-Core, SMD, 1812, ROHS COMPLIANT

ECAD模型

下载ECAD模型
$0.61 查看
66597-2 1 TE Connectivity III+ PIN,18-14,30AU/FL,STRIP

ECAD模型

下载ECAD模型
$0.97 查看

相关推荐

电子产业图谱