1384
生成式AI是当前最为显著的趋势，它主要得益于大语言模型（LLM）的成功和相关技术的发展。未来，AI的趋势将是多模态输入输出模型，即AI能够根据文本、图片或视频等多种指令，生成更复杂、更高阶的输出结果，为生成式AI的应用提供无限可能性。
AI大模型的复杂性和功能日益增强，离不开在线数据为模型训练提供的丰富资源。根据OpenAI的数据，自2012年以来，全球最大的AI训练项目所需计算量每年增长10倍。例如，ChatGPT的GPT-3版本使用了1750亿参数，而几个月后的GPT-4版本参数数量激增至1.5万亿。未来，要实现更加准确、全面且强大的AI模型，预计AI训练数据集还将保持高速增长。这也意味着，能够应对海量数据的服务器内存对于生成式AI的发展至关重要，更高带宽的内存成为必需。
大模型趋势下，数据管道内存需求日益增加
日前，Rambus宣布了DDR5服务器电源管理IC领域的突破，通过最新的芯片技术，可助力DDR5内存模块在目标功耗范围内实现更高水平的内存性能，满足数据管道日益增加的内存需求。
Rambus内存互连芯片业务部门产品营销副总裁John Eble以经过简化的AI训练管道为例介绍说，数据存储是起点，其中保存了大量的AI数据集，例如OpenAI的SDXL应用，使用了超过1亿张图片作为训练数据。到了数据存储阶段，因为GPU尚未参与到训练流程中，服务器主内存容量并没有达到夸张的量级。
随后进入数据准备阶段，数据需经过整理、正常化和验证，这一阶段主内存需求显著增加，大约需要1TB。例如，在SDXL训练网络架构中，图像需统一规格，以提高网络资源的利用效率，降低延迟并节省空间。
完成数据准备后，进入实际训练阶段，这是对GPU和内存需求最高的阶段。主内存容量通常需要是GPU内存的两倍，并且必须具备高带宽，以满足GPU的数据吞吐速度。
整个AI训练管道从数据采集、存储、准备、训练到最终形成推理模型，是一个连续的过程。“这仅是一个简化的训练流程，而实际应用中，一个集群或实例的内存容量可能是简化模型中所描述的数倍”，John Eble表示，“为了满足不断增长的数据管道日益增加的内存需求，需要更高带宽和容量的RDIMM。“
PMIC成为DDR5内存架构的关键组件
DDR5如何实现更高的内存性能？主要是更智能的DIMM（双列直插式内存模块）架构。与DDR4相比，DDR5内存采用采用了双通道架构，每个通道的数据流通道比特率达到32位，加上8位的ECC（错误校正码），确保了更高的存储和吞吐量，从而提升了内存性能。
其次，双通道RCD在主机端以DDR5 速度运行，与DRAM运行速度相同，使得每个引脚的开关频率比 DDR4高出一倍多。此外还有频率速度的提升，DDR5的每通道最高频率速度可达8400MT/s，而根据JEDEC的最新数据，在DRAM规格中可以达到8800MT/s。
以上这些都表明，更高的数据传输速率至关重要。“这些因素共同促使我们决定采用专用的电源管理IC，来帮助控制更加精细的电压”，John Eble表示，“PMIC是DDR5内存架构的关键组件，可以实现更多的内存通道、更大容量的模组和更高的带宽。”
对比前几代产品将PMIC放在主板上的做法，DDR5 DIMM架构的主要变化之一是将PMIC集成到了内存模块。
为什么要将PMIC从主板挪到内存模块上？John Eble表示，从DDR4到DDR5，电压从1.2V降到1.1V，与此同时，数据传输速率更高，DDR5最高可以达到8800MT/s，而DDR4上限是3200MT/s。为了实现更高的数据传输速率，DDR5需要更严格且精准的电压范围。在电源配置变化的情况下,它需要非常低的噪音，而且需要在这些较低电压下保持可靠性。
将PMIC集成到内存模块的架构变化真正解决了电阻（IR）下降的问题。这与其他创新和DDR5 DIMM一起，使得内存带宽和容量得到了显著提升。
据了解，全新的DDR5服务器PMIC系列包含符合JEDEC超高电流的PMIC5020、高电流PMIC5000和低电流PMIC5010规范的产品。其中， PMIC5020将使未来几代 DDR5 RDIMM 的性能和容量达到新的基准。
通过全新的PMIC系列，Rambus可以支持多代基于 DDR5 的高性能服务器，提供完整的内存接口芯片组，包含 RCD、PMIC、SPD Hub、温度传感器IC。凭借在高性能内存领域积累30多年的经验，Rambus已成为RDIMM制造商的“一站式” DDR5 内存接口芯片供应商，能够为制造商提供最高级别的验证保证并加快其产品上市时间。
内存集成PMIC或将成为趋势，DDR5面临涨价压力
John Eble表示，业界已经经历了将PMIC集成到模块验证和认证中的学习曲线，并看到了由此带来的好处，他认为这将继续成为一种趋势。
在内存模块中集成PMIC，遵循了微电子行业将供电设备尽可能靠近使用点的趋势。DDR5 内存模块是第一个在内存模块上集成PMIC的主要内存类型，未来，随着对更高性能和电源效率的需求不断增长，可能会定义新型内存模块。而且，这些模块很有可能继续在模块上集成 PMIC，以进一步优化电源管理并提高整体系统性能。
谈及DDR5的价格走势，John Eble认为，现阶段，DDR5内存价格总体上还是在根据整个DRAM内存行业的供需关系正常运行着。去年对于DRAM行业来说是比较艰难的一年，有很多的资本支出计划被削减，所以就导致供应收紧。此外，某些细分市场（如人工智能的 HBM）的需求也在急剧增长。DRAM制造商所拥有的产能，都被分配给了这些利润丰厚的细分市场，而向其他内存类型分配产能会进一步紧缩供应。因此，从目前的情况来看，DDR5 的需求似乎大于供应，在供应恢复平衡之前，很可能会造成价格上涨的压力。
下载ECAD模型
