3257
以ChatGPT、GPT-4、文心一言为代表的AIGC大模型，集文本撰写、代码开发、诗词创作等功能于一体，展现出了超强的内容生产能力，带给人们极大震撼。
作为一个通信老司机，除了AIGC大模型本身之外，小枣君更加关注的，是模型背后的通信技术。到底是一张怎样的强大网络，在支持着AIGC的运转？此外，AI浪潮的全面来袭，将对传统网络带来怎样的变革？
█ AIGC，到底需要多大的算力？
众所周知，数据、算法和算力，是人工智能发展的三大基本要素。
前面提到的几个AIGC大模型，之所以那么厉害，不仅是因为它们背后有海量的数据投喂，也因为算法在不断进化升级。更重要的是，人类的算力规模，已经发展到了一定程度。强大的算力基础设施，完全能够支撑AIGC的计算需求。
AIGC发展到现在，训练模型参数从千亿级飙升到了万亿级。为了完成这么大规模的训练，底层支撑的GPU数量，也达到了万卡级别规模。
以ChatGPT为例，他们使用了微软的超算基础设施进行训练，据说动用了10000块V100 GPU，组成了一个高带宽集群。一次训练，需要消耗算力约3640 PF-days（即每秒1千万亿次计算，运行3640天）。
一块V100的FP32算力，是0.014 PFLOPS（算力单位，等于每秒1千万亿次的浮点运算）。一万块V100，那就是140 PFLOPS。
也就是说，如果GPU的利用率是100%，那么，完成一次训练，就要3640÷140=26（天）。
GPU的利用率是不可能达到100%，如果按33%算（OpenAI提供的假设利用率），那就是26再翻三倍，等于78天。
可以看出，GPU的算力、GPU的利用率，对大模型的训练有很大影响。
那么问题来了，影响GPU利用率的最大因素，是什么呢？
答案是：网络。
一万甚至几万块的GPU，作为计算集群，与存储集群进行数据交互，需要极大的带宽。此外，GPU集群进行训练计算时，都不是独立的，而是混合并行。GPU之间，有大量的数据交换，也需要极大的带宽。
如果网络不给力，数据传输慢，GPU就要等待数据，导致利用率下降。利用率下降，训练时间就会增加，成本也会增加，用户体验会变差。
业界曾经做过一个模型，计算出网络带宽吞吐能力、通信时延与GPU利用率之间的关系，如下图所示：
大家可以看到，网络吞吐能力越强，GPU利用率越高；通信动态时延越大，GPU利用率越低。
一句话，没有好网络，别玩大模型。
█ 怎样的网络，才能支撑AIGC的运行？
为了应对AI集群计算对网络的调整，业界也是想了不少办法的。
传统的应对策略，主要是三种：Infiniband、RDMA、框式交换机。我们分别来简单了解一下。
Infiniband组网
Infiniband（直译为“无限带宽”技术，缩写为IB）组网，搞数据通信的童鞋应该不会陌生。
这是目前组建高性能网络的最佳途径，带宽极高，可以实现无拥塞和低时延。ChatGPT、GPT-4所使用的，据说就是Infiniband组网。
如果说Infiniband组网有什么缺点的话，那就是一个字——贵。相比传统以太网的组网，Infiniband组网的成本会贵好几倍。这项技术比较封闭，业内目前成熟的供应商只有1家，用户没什么选择权。
RDMA网络
RDMA的全称是Remote Direct Memory Access（远程直接数据存取）。它是一种新型的通信机制。在RDMA方案里，应用程序的数据，不再经过CPU和复杂的操作系统，而是直接和网卡通信，不仅大幅提升了吞吐能力，也降低了时延。
RDMA最早提出时，是承载在InfiniBand网络中的。现在，RDMA逐渐移植到了以太网上。
目前，高性能网络的主流组网方案，是基于RoCE v2（RDMA over Converged Ethernet，基于融合以太网的RDMA）协议来组建支持RDMA的网络。
这种方案有两个重要的搭配技术，分别是PFC（Priority Flow Control，基于优先级的流量控制）和ECN（Explicit Congestion Notification，显式拥塞通知）。它们是为了避免链路中的拥塞而产生的技术，但是，频繁被触发，反而会导致发送端暂停发送，或降速发送，进而拉低通信带宽。（下文还会提到它们）
框式交换机
国外有部分互联网公司，寄希望于利用采用框式交换机（DNX芯片+VOQ技术），来满足构建高性能网络的需求。
DNX：broadcom（博通）的一个芯片系列VOQ：Virtual Output Queue，虚拟输出队列这种方案看似可行，但也面临以下几个挑战。
首先，框式交换机的扩展能力一般。机框大小限制了最大端口数，如想做更大规模的集群，需要横向扩展多个机框。
其次，框式交换机的设备功耗大。机框内线卡芯片、Fabric芯片、风扇等数量众多，单设备的功耗超过2万瓦，有的甚至3万多瓦，对机柜供电能力要求太高。
第三，框式交换机的单设备端口数量多，故障域大。
基于以上原因，框式交换机设备只适合小规模部署AI计算集群。
█ 到底什么是DDC
前面说的都是传统方案。既然这些传统方案不行，那当然就要想新办法。
于是，一种名叫DDC的全新解决方案，闪亮登场了。
DDC，全名叫做Distributed Disaggregated Chassis（分布式分散式机箱）。
它是前面框式交换机的“分拆版”。框式交换机的扩展能力不足，那么，我们干脆把它给拆开，将一个设备变成多个设备，不就OK了？
框式设备，一般分为交换网板（背板）和业务线卡（板卡）两部分，相互之间用连接器连接。
DDC方案，将交换网板变成了NCF设备，将业务线卡变成了NCP设备。连接器，则变成了光纤。框式设备的管理功能，在DDC架构中，也变成了NCC。
NCF：Network Cloud Fabric（网络云管理控制平面）NCP：Network Cloud Packet Processing（网络云数据包处理）NCC：Network Cloud Controller（网络云控制器）
DDC从集中式变成分布式之后，扩展能力大大增强了。它可以根据AI集群的大小，灵活设计组网规模。
我们来举两个例子（单POD组网和多POD组网）。
单POD组网中，采用96台NCP作为接入，其中NCP下行共18个400G接口，负责连接AI计算集群的网卡。上行共40个200G接口，最大可以连接40台NCF，NCF提供96个200G接口，该规模上下行带宽为超速比1.1:1。整个POD可支撑1728个400G网络接口，按照一台服务器配8块GPU来计算，可支撑216台AI计算服务器。
单POD组网
多级POD组网，规模可以变得更大。
在多级POD组网中，NCF设备要牺牲一半的SerDes，用于连接第二级的NCF。所以，此时单POD采用48台NCP作为接入，下行共18个400G接口。
多POD组网
单个POD内，可以支撑864个400G接口（48×18）。通过横向增加POD（8个），实现规模扩容，整体最大可支撑6912个400G网络端口（864×8）。
NCP上行40个200G，接POD内40台NCF。POD内NCF采用48个200G接口，48个200G接口分为12个一组上行到第二级的NCF。第二级NCF采用40个平面（Plane），每个平面4台NCF-P，分别对应在POD内的40台NCF。
整个网络的POD内实现了1.1:1的超速比（北向带宽大于南向带宽），而在POD和二级NCF之间实现了1:1的收敛比（南向带宽/北向带宽）。
█ DDC的技术特点
站在规模和带宽吞吐的角度，DDC已经可以满足AI大模型训练对于网络的需求。
然而，网络的运作过程是复杂的，DDC还需要在时延对抗、负载均衡性、管理效率等方面有所提升。
基于VOQ+Cell的转发机制，对抗丢包
网络在工作的过程中，可能会出现突发流量，造成接收端来不及处理，引起拥塞和丢包。
为了应对这种情况，DDC采取了基于VOQ+Cell的转发机制。
发送端从网络接收到数据包之后，会分类到VOQ（虚拟输出队列）中存储。
在发送数据包前，NCP会先发送Credit报文，确定接收端是否有足够的缓存空间处理这些报文。
如果接收端OK，则将数据包分片成Cells（数据包的小切片），并且动态负载均衡到中间的Fabric节点（NCF）。
如果接收端暂时没能力处理报文，报文会在发送端的VOQ中暂存，并不会直接转发到接收端。
在接收端，这些Cells会进行重组和存储，进而转发到网络中。
切片后的Cells，将采用轮询的机制发送。它能够充分利用到每一条上行链路，确保所有上行链路的传输数据量近似相等。
轮询机制
这样的机制，充分利用了缓存，可以大幅度减少丢包，甚至不会产生丢包情况。数据重传减少了，整体通信时延更稳定更低，从而可以提高带宽利用率，进而提升业务吞吐效率。
PFC单跳部署，避免死锁
前面我们提到，RDMA无损网络中引入了PFC（基于优先级的流量控制）技术，进行流量控制。
简单来说，PFC就是在一条以太网链路上创建 8 个虚拟通道，并为每条虚拟通道指定相应优先级，允许单独暂停和重启其中任意一条虚拟通道，同时允许其它虚拟通道的流量无中断通过。
PFC可以实现基于队列的流量控制，但是，它也存在一个问题，那就是死锁。
所谓死锁，就是多个交换机之间，因为环路等原因，同时出现了拥塞（各自端口缓存消耗超过了阈值），又都在等待对方释放资源，从而导致的“僵持状态”（所有交换机的数据流永久堵塞）。
DDC的组网下，就不存在PFC的死锁问题。因为，站在整个网络的角度，所有NCP和NCF可以看成一台设备。对于AI服务器来说，整个DDC，就是一个交换机，不存在多级交换机。所以，就不存在死锁。
另外，根据DDC的数据转发机制，可在接口处部署ECN（显式拥塞通知）。
ECN机制下，网络设备一旦检测到RoCE v2流量出现了拥塞（内部的Credit和缓存机制无法支撑突发流量），就会向服务器端发送CNP（Congestion Notification Packets，拥塞通知报文），要求降速。
分布式OS，提升可靠性
最后再看看管理控制平面。
前面我们提到，在DDC架构中，框式设备的管理功能变成了NCC（网络云控制器）。NCC非常重要，如果采用单点式的方式，万一出现问题，就会导致整网故障。
为了避免出现这样的问题，DDC可以取消NCC的集中控制面，构建分布式OS（操作系统）。
基于分布式OS，可以基于SDN运维控制器，通过标准接口（Netconf、GRPC等）配置管理设备。这样的话，每台NCP和NCF独立管理，有独立的控制面和管理面，大大提升了系统的可靠性，也更加便于部署。
█ DDC的商用进展
综上所述，相对传统组网，DDC在组网规模、扩展能力、可靠性、成本、部署速度方面，拥有显著优势。它是网络技术升级的产物，提供了一种颠覆原有网络架构的思路，可以实现网络硬件的解耦、网络架构的统一、转发容量的扩展。
业界曾经使用OpenMPI测试套件进行过框式设备和传统组网设备的对比模拟测试。测试结论是：在All-to-All场景下，相较于传统组网，框式设备的带宽利用率提升了约20%（对应GPU利用率提升8%左右）。
正是因为DDC的显著能力优势，现在这项技术已经成为行业的重点发展方向。例如锐捷网络，他们就率先推出了两款可交付的DDC产品，分别是400G NCP交换机——RG-S6930-18QC40F1，以及200G NCF交换机——RG-X56-96F1。
RG-S6930-18QC40F1交换机的高度为2U，提供18个400G的面板口，40个200G的Fabric内联口，4个风扇和2个电源。
RG-X56-96F1交换机的高度为4U，提供96个200G的Fabric内联口，8个风扇和4个电源。
据悉，锐捷网络会继续研发，持续推出更多适合智算中心网络场景的产品。
█ 最后的话
AIGC的崛起，已经掀起了互联网行业的新一轮技术革命。
我们可以看到，越来越多的企业，正在加入这个赛道，参与角逐。这意味着，网络基础设施的升级，迫在眉睫。
DDC的出现，将大幅提升网络基础设施的能力，不仅可以有效应对AI革命对网络基础设施提出的挑战，更将助力整个社会的数字化转型，加速人类数智时代的全面到来。
