内存,对于装机爱好者来说已经再熟悉不过了。它是计算机的重要部件,用于暂时存放CPU中的运算数据,以及与硬盘等外部存储器交换的数据。简单来说,内存就是CPU的“草稿纸”,负责将CPU这个大脑暂时用不到的数据存放起来,以备随时取用。这种将数据放在CPU外暂存的结构被称为“冯·诺依曼结构”。即使将CPU升级为服务器级别,其数据交换方式仍旧是这样。
不过,随着AI时代来临,服务器核心的算力越来越高,它与内存间的数据交换频率也水涨船高,算力的增长非常显著,但是带宽上的进步却无法改善,造成两者间不匹配,也导致了很多GPU资源的浪费。存储带宽制约了计算系统的有效带宽,这也导致芯片算力增长步履维艰。近日,Rambus在产品发布会上带来了GDDR6 PHY产品,可以有效提升内存数据传输速率,满足生成式AI等先进计算应用的需求。
服务器的GDDR时代来了
传统内存,按照不同代际分为DDR至DDR5。DDR的全称为Double Data Rate SDRAM(双倍速率的SDRAM)。DRAM指动态随机存取内存,SDRAM就是一种传输速率更高的DRAM。
DDR内存从1代进化到5代,它的时钟周期变短了,频率也就变高了,因此传输速度也就更快。此外,更高代的内存支持的最大容量也越大,电压更低,耗电更少。
而GDDR通常指的是用在显卡上的内存,本质上还是双倍速率同步动态随机存储器,它是为了设计高端显卡而特别设计的高性能 DDR 存储器规格,其有专属的工作频率、时钟频率、电压,因此与市面上标准的 DDR 存储器有所差异,与普通 DDR 内存不同且不能共用。一般它比主内存中使用的普通 DDR 存储器时钟频率更高,发热量更小,所以更适合搭配高端显示芯片。
GDDR的出现是因为程序需要进行更频繁的图形计算,需要频繁读取内存中的数据,因此就需要更高性能的内存来辅助显卡运行。
AI应用对于内存带宽有着旺盛需求,其训练集每年也以10倍的速度增长。GDDR内存逐渐成为众望所归。Rambus GDDR6 PHY提供市场领先的数据传输速率,最高可达24 Gb/s,能够为每个GDDR6内存设备带来96 GB/s的带宽。作为系统级解决方案的一部分,Rambus GDDR6能够为人工智能/机器学习(AI/ML)、图形和网络应用提供高成本效益、高带宽的内存性能。
Rambus首席运营官范贤志表示:“凭借Rambus GDDR6 PHY所实现的新一级性能,设计人员可以为带宽要求极为苛刻的工作负载提供所需的带宽。和我们领先的HBM3内存接口一样,这项最新成就表明了我们不断致力于开发最先进的内存性能,以满足生成式AI等先进计算应用的需求。”
快,就够了吗?
人工智能的推理正在向边缘端进行迁移,要做到这一点需要更高的带宽和更低延迟的内存。
Rambus GDDR6 PHY除了业界领先的24Gb/s性能外,还经过了全方位的优化,可满足AI/ML及其他需要高带宽、低延迟内存解决方案的先进应用的需求。Rambus能够实现24Gb/s的数据传输速率,依靠的是其在信号完整性和电源完整性(SI/PI)方面享誉世界的专业知识,这些知识可用于设计PHY、芯片封装和印刷电路板(PCB)。Rambus GDDR6 PHY可与Rambus GDDR6数字控制器IP相结合,提供完整的GDDR6内存接口子系统解决方案。
值得一提的是,GDDR6现在已经支持比较先进的FinFET工艺节点。从2019年开始,Rambus就已经在该工艺上进行布局,包括24Gb/s速率的GDDR6。此外,Rambus还针对PCB以及封装提供相关的参考设计。
IDC内存半导体副总裁Soo-Kyoum Kim表示:“凭借领先的速度和带宽,Rambus GDDR6 PHY将为新一代图形应用带来巨大的性能提升。”
客户需要怎样的内存?
本次发布会上,Rambus还回答了记者的采访。其中包括为什么GDDR会被用到服务器上?DDR和GDDR这两种不同的产品优势和差别分别是什么?用户在具体选择的时候,有怎么样的标准?
Rambus IP核产品营销高级总监Frank Ferro表示:以DDR4为例,它的成本相对是比较低的。劣势是运行速度相对较慢,它的速度可能最高能达到3.2Gb/s。作为GDDR这项技术,从几年前开始就已经能够实现16Gb/s的带宽,而这已经是超过了DDR技术三到四倍之多。由于在DDR4和GDDR6两者之间存在着巨大的性能差异的鸿沟,越来越多的客户也开始探寻如何把GDDR6应用到自己的设计上的方法。 这也是为什么GDDR6转变到非图形应用的重要契机和原因。
有关DDR和GDDR的差别,需求端来讲,带宽是主要的标准和最重要的衡量因素,但如果是从存储密度,也就是能够存储多少数据,以及对成本的敏感性来看的话,DDR是更好的选择了。同时, DDR、GDDR和LPDDR这些不同的产品,都是以标准的DRAM为基础。不管你怎么设计,在整个功耗性能上其实都是大同小异。LPDDR,更加关注的更低功耗管理,DDR本身的数据存储密度会更高一点, GDDR是更关注于速度,这三者之间各有千秋。
记者也就AI对于内存的需求与落地时间进行提问。
Rambus 大中华区总经理Raymond Su(苏雷)表示:对于内存产品的需求,首先就是要实现高带宽。在满足带宽需求的大前提下,方案的成本和复杂性就成为第二个考量因素。GDDR技术是在带宽、成本和方案复杂性的各因素之间,提供了一个非常完美的折中技术方案。在设计阶段,Rambus直接和客户合作,提供信号完整性和功能完整性的技术分析,还会帮助客户优化芯片的布局。
关于产品的落地时间,芯片业界的一般规律是从IP最初加入芯片设计,到最终芯片流片成功到推出市场,一颗芯片的诞生需要一到两年的时间。因此我们可能会在2025年或2026年市场上看到使用GDDR6 IP的芯片。
Rambus介绍:
Rambus是一家业界领先的半导体IP和芯片供应商,技术实力强劲,拥有3000多项技术专利。ram和bus分别代表了存储和安全的快速传输,企业使命就是让数据传输更快、更安全。
Rambus成立于上个世纪的九十年代,距今有30多年的历史,总部是位于美国加州。Rambus在全球各地都有分支机构,现在全球的员工是预计在750名左右。
发言人介绍:
Raymond Su
Rambus 大中华区总经理
Raymond先生现任Rambus 大中华区总经理,他拥有逾15年的半导体及电信行业从业经验。
在加入Rambus之前,Raymond 先生曾先后任职于华为、三星、瑞萨科技(Renesas)、联芯科技(Leadcore)及中国电信。
Raymond 先生对市场及应用需求有着深厚的见解,他专注于企业市场战略制定、业务开发、销售及研究开发等。
Raymond拥有南京大学学士学位以及电信科学技术研究院硕士学位。
Frank Ferro
Rambus IP核产品营销高级总监
Frank Ferro先生现任Rambus IP核产品营销高级总监,主要负责内存接口IP产品线。
他在无线通信、网络和电子消费品领域拥有超过20年的工作经验,曾先后任职于美国电话电报公司(AT&T)、朗讯科技(Lucent)与杰尔系统(Agere Systems)。
Frank先生拥有美国杜克大学富科商学院的EMBA学位、新泽西理工学院计算机科学理学硕士学位与电子工程技术的学士学位。