487
8 月25 日，美国内存 IP 厂商 Rambus 宣布推出 HBM3 内存接口子系统，其传输速率达 8.4Gbps，可以为人工智能/机器学习(AI/ML)和高性能计算(HPC)等应用提供 TB 级带宽，是当前速率最快的 HBM 产品。预计 2022 年末或 2023 年初，Rambus HBM3 将会流片，实际应用于数据中心、AI、HPC 等领域。Rambus IP核产品营销高级总监Frank Ferro，以及Rambus大中华区总经理苏雷接受了《与非网》的线上采访，并详解了Rambus HBM3-Ready内存子系统的亮点和市场。
全球TOP10的IP提供商，Rambus到底是做什么的？
对于Rambus这家公司，可能国内有些读者有点陌生。Rambus（RMBS.O）成立于 1990 年，Rambus的名字拆开，一部分就是Ram（内存），后一部分是bus（总线）。可以说Rambus的DNA里拥有着在内存以及高速接口领域的专长， 从创立之初Rambus便致力于高端存储产品的研究与开发，目前产品应用于高性能个人电脑、图形工作站、服务器和其他对带宽和时间延迟有一定要求的设备。
Rambus 历年营收及同比增速，来源：Bloomberg
Rambus 2020 年前三季度实现收入 1.81 亿美元，同比增加 10.21%，其中内存接口芯片业务收入达 9222 万美元，约占总收入比例为51%。从毛利率来看，Rambus 此前由于专利/架构授权业务占比较高，因此毛利率长期位于 80%以上。
Rambus 2020 年前三季度收入构成，来源：Bloomberg
从生态系统可以看到，在IP核领域，Rambus的友商涵盖了新思科技、楷登电子、ARM、瑞萨电子、澜起科技等。
2020 年全球 IP 授权市场格局，来源：IPnest
从2016年开始，Rambus就已经进入HBM的市场，得益于在HBM领域多年的经验和专业知识，Rambus在市场份额上排名第一，同时已经赢得了超过50个设计订单，这些订单都来自数据中心、ASIC的设计方等。目前为止，Rambus的控制器已经应用在了HBM市场超过85%的产品当中。
2022年流片，HBM3更适合哪些应用场景？
随着近年来人工智能和机器学习等云服务应用的不断增长，数据中心的需求不断增长，预计到2025年，超过25%的服务器出货将会专供于人工智能领域。可以说，数据中心是HBM3目前最重要的应用场景。除此之外，高性能计算机上也可以充分发挥HBM在功耗以及性能上的强大优势。而针对这些应用，内存和I/O带宽是影响系统性能至关重要的因素。对AI/ML、HPC等领域的客户来说，他们对TB级带宽有着非常强的需求，而Rambus全新的HBM3-Ready内存子系统可以满足其在TB级带宽领域加速的性能标准。这也是为什么Rambus要率先在业界推出支持HBM3的内存子系统。
对于客户来说，如何针对不同的应用场景选择最好的内存解决方案是重点也是难点，基本上考虑的要素和维度有四个：带宽、功耗、面积和尺寸、成本。Rambus IP核产品营销高级总监Frank Ferro表示，对于边缘计算设备来说，选择比较多样化，HBM、DDR、LPDDR、GDDR6基本上都是可行的。而针对车载终端等物联网设备，可能更适合用LPDDR。据了解，考虑到HBM3的技术还比较新，目前一线的AI客户都在跟Rambus保持紧密的沟通。
部分DRAM厂商制程路标预测,来源：TrendForce，Gartner
根据Gartner之前的预测，三星将在2021年率先推出采用HBM3 IP的存储产品。不过目前来看是海力士率先发布了他们的HBM3产品，公开的最高数据传输速率达到5.2Gbps。这次Rambus推出的HBM3-Ready内存子系统解决方案，其中包括完全集成的PHY和数字控制器，可以实现高达8.4Gbps的数据速率。考虑到任何高速SoC芯片的开发基本上都会需要18个月左右的时间。因此笔者估算，采用HBM3 IP的高速芯片正式流片预计会在2022年末或者2023年初。
HBM3的技术优势与发展阻碍
从最开始的HBM1到2016年的HBM2，再到2018年发布的HBM2E，到今年发布的HBM3，可以看到数据的传输速率不断的提升。DRAM与HBM的发展是相辅相成、共同促进的。对比之下，其实从DDR4到DDR5过渡的时间很长，但HBM技术迭代的速度非常快，也印证了HBM领域整体发展的迅速。
从技术趋势来看，HBM的发展很大程度上是由不断上升的带宽需求驱动的，而对带宽的需求几乎没有上限，换句话说，目前来看HBM的发展可能不会遇到障碍。不管是HBM2E高达4Gbps的数据传输速率，还是前一段时间海力士发布的，5.2Gbps数据传输速率的HBM3产品，其实都证实了业界对HBM领域的看好。
总的来说，HBM3产品在数据传输的速率、带宽以及密度上都有着独一无二的优势，并不仅仅是更小的尺寸。
HBM3-Ready内存子系统产品的主要架构，最上面有4块DRAM内存条，通过TSV堆叠的方式叠加在一起，下面是SoC，再往下是中介层，在中介层下面就是绿色的封装。这些部分组成了整个2.5D的系统架构。
尽管目前HBM3的速率已经可以达到8.4Gbps，但对比GDDR DRAM 已经达到16或者18Gbps的速率，还是有差距的。简单来讲，HBM发展的限制目前集中在中介层上。在HBM2的时代，中介层本身的技术是有限制的，即一代和二代的中介层最高只能做到两层，它设计的线宽、金属层的厚度都是非常有限的。随着中介层技术的发展，其本身的厚度、金属层和线宽都有了一定的增加，这也进一步推动了HBM未来的发展。
HBM最大的限制条件就是成本。因为HBM生产过程需要用到2.5D流程，而作为相对比较新的生产工艺，2.5D流程的成本是比较高的，对成本比较敏感的客户或应用场景可能就不会选择使用HBM。但目前针对这个问题，Rambus已经在与整个行业和生态系统协作，希望进一步加速我们技术的发展和迭代，降低HBM的成本，让更多的客户可以应用HBM产品。
过去，HBM2E实现一个特定的带宽需求可能需要4个DRAM；而HBM3可能只需要2个DRAM，这就带来非常直接的成本下降。当然如果客户追求最高的带宽，不考虑成本，哪怕是HBM3，依旧选择采用4个DRAM；但对成本比较敏感的客户来说，HBM3的整体成本是下降的。
HBM技术与其他技术的不同，就是3D堆栈。对比HBM2E或者DDR、GDDR，HBM3架构最基本的单元同样是基于DRAM的，但不同于其他产品将DDR进行平铺，HBM选择堆叠，其直接结果就是其接口变得更宽。 DDR的接口位宽只有64位，而HBM通过DRAM堆叠的方式可以将位宽提升到1024位，这就是HBM与其他竞争技术相比最大的差异。
总的来说，HBM现在依旧处于相对早期的阶段，所以未来还有很长的一段路要走。
作为一个完整的内存子系统产品，Rambus提供的并不仅仅是IP，同时也提供泛IP，以及整个系统的具体设计，包括经过验证的PHY以及数字控制器。此外，Rambus还会在中介层和封装上给客户提供更好的参考设计支持和框架，因为这些也是整个内存子系统领域非常重要的环节。
从上图可以看到，右下方是Rambus和燧原合作的一款测试芯片，集成了PHY和控制器，是HBM2E的DRAM，数据传输速率可以达到4Gbps，到目前为止依旧是行业的最高水平。其次，Rambus的PHY产品是通过完全集成的硬核方式进行交付，在交付之时已经包括了完整的PHY、I/O以及Decap，方便客户进行系统集成。
对于I/O设备产品来说，客户也需要厂商提供非常强大的技术以及相关的调试纠错支持，Rambus不仅可以将产品提供给客户，还可提供针对ASIC power up的现场客户支持，帮助客户进行现场纠错，实现更好的设备调试启动。
不同的提供商的生产2.5D流程本身也不一样，是一个非常复杂的过程，不仅需要提供用于生产中介层的硅产品，还有根据厂商各有差异的封装以及最后组装。而Rambus可以同时支持OSAT和CoWoS生产2.5D流程。
最后，Rambus与各大DRAM供应商有着非常密切的合作关系，测试芯片已经过充分的双向验证以及测试。
Rambus如何看待中国市场？
近年来，Rambus加大了对中国市场的开拓力度。包括兆易创新、长鑫、燧原科技在内的中国芯片商都已经和Rambus开始了合作。据了解，从去年开始，Rambus年度的Design Summit除了总部以外，中国是全球唯一单独举办的区域。围绕中国市场，Rambus已经规划了一系列的活动。例如，Rambus今年在全球范围内发布了CXL内存互联计划，针对CXL，我们会和中国的云服务商、数据中心、服务器OEM、ODM和内存公司等整个生态系统展开合作，以加快CXL内存互联计划的开发和应用，落地和发展。
Rambus大中华区总经理苏雷表示，中国在AI、数据中心、云计算等方面的发展已经走在了世界前列，并展现出非常强劲的潜力，Rambus对中国市场非常看好和重视。他同时表示，未来在中国的团队还将持续扩大，将用更好的产品和服务来践行Rambus“In China，for China”的承诺。
