• 正文
    • 光电一体化网络交换机,助力AI工厂扩展到数百万GPU级别
    • 携手存储企业推出新型AI基础设施
    • 写在最后
  • 相关推荐
申请入驻 产业图谱

英伟达的AI布局,最新秘笈藏在数据管道的毛细血管里

原创
03/21 10:18
611
加入交流群
扫码加入
获取工程师必备礼包
参与热点资讯讨论

当全球聚焦于AI大模型的激烈角逐、AI Agent的惊人表现时,英伟达数据传输赛道完成了一次新升级。GTC25期间,两项“基础设施革命”——硅光网络交换机与AI数据平台传来重磅消息。

光电一体化网络交换机,助力AI工厂扩展到数百万GPU级别

最新推出的NVIDIA Spectrum-X和NVIDIA Quantum-X硅光网络交换机,使AI工厂能够跨区域连接数百万GPU,同时大幅降低能耗和运营成本,这也意味着英伟达在大规模平台上实现了电子电路光通信的融合。

随着AI工厂发展到前所未有的规模,网络必须不断发展以跟上步伐。英伟达最新推出的硅光交换机,创新地集成了光器件,减少了4倍的激光器数量,与传统方法相比,能源效率提高到3.5倍,信号完整性提高到63倍,大规模组网可靠性提高到10倍,部署速度提高到1.3倍。

“AI工厂是一种超大规模的新型数据中心,必须采用全新的网络基础设施才能跟上它的发展步伐”,黄仁勋表示,“英伟达将硅光直接集成到交换机中,打破了超大规模和企业网络的旧有限制,为百万GPU AI 工厂打开大门。”

据了解,最新的硅光网络交换机会被用于NVIDIA Spectrum-X Photonics 以太网平台和 NVIDIA Quantum-X Photonics InfiniBand平台。

与传统以太网相比,Spectrum-X以太网网络平台可为多租户、超大规模AI工厂(包括目前全球最大的超级计算机)提供卓越的性能和1.6倍的带宽密度。

NVIDIA Spectrum-X Photonics 交换机具有多种配置,包括128个800 Gb/s端口或512个 200 Gb/s 端口,总带宽可达到100 Tb/s,以及512个800 Gb/s或2,048个200 Gb/s端口,总吞吐量可达400Tb/s。

NVIDIA Quantum-X Photonics 交换机提供144个基于200Gb/s SerDes的800Gb/s InfiniBand 端口,并采用液冷设计对板载硅光器件进行高效散热。值得一提的是,NVIDIA Quantum-X Photonics 交换机AI计算网的速度是上一代产品的2倍,扩展性是上一代产品的5倍。

英伟达的网络生态这些年在不断壮大,目前,其硅光生态系统伙伴包括 TSMC、Browave、Coherent、Corning Incorporated、Fabrinet、Foxconn、Lumentum、SENKO、SPIL、Sumitomo Electric Industries和TFC Communication。

最新的photonics技术将推动新一代先进AI工厂的大规模增长,并和Coherent、Eoptolink、Fabrinet和Innolight等企业的可插拔光模块技术等,共同推动该领域的前进。

携手存储企业推出新型AI基础设施

最新推出的还有NVIDIA AI 数据平台,这是一项可自定义的参考设计,存储提供商可用来构建全新的AI基础设施,以满足AI推理工作负载的严苛要求。这意味着,企业存储平台可以搭载英伟达加速计算、网络和软件驱动的AI查询智能体。

具体而言,经英伟达认证的存储提供商,能够通过NVIDIA AI数据平台构建基础设施,例如:NVIDIA Blackwell GPU、NVIDIA BlueField DPU、NVIDIA Spectrum-X网络以及NVIDIA Dynamo开源推理库,可以通过专用AI查询智能体,加速AI推理工作负载。

Blackwell GPU、BlueField DPU和Spectrum-X网络组合在一起提供了一款加速引擎,可加快AI查询智能体访问存储在企业系统中的数据。其中,BlueField DPU的性能比基于CPU的存储性能提升最高可达1.6倍,而功耗又可降低50%,每瓦性能提高3倍以上。与传统以太网相比,Spectrum-X 通过采用动态路由和优化的拥塞控制,可将AI存储流量提速最高达48%。

正如黄仁勋所言,“数据是AI时代各行各业发展的原材料”,但若存储系统无法高效供给数据,万亿参数模型的训练与实时推理将成为空中楼阁。通过创新的AI数据平台,英伟达为数以百万计的企业带来加速计算和AI能力,使其应用企业存储系统来处理推动公司发展的数据。这些智能体可助力企业应用NVIDIA AI Enterprise软件平台(包括全新NVIDIA Llama Nemotron推理模型的NVIDIA NIM微服务)以及全新的NVIDIA AI-Q Blueprint,接近实时地生成数据洞察。

将AI 查询智能体搭载AI-Q Blueprint,可在推理过程中连接数据,提供更准确、更贴合情景的响应。它可以快速访问海量数据,并处理各类数据,包括有多个来源的结构化、半结构化和非结构化数据,包括文本、PDF、图像和视频。

黄仁勋表示:“我们正在与全球领先的存储企业合作,打造在混合数据中心部署和扩展代理式AI(Agentic AI)所需的新型企业基础设施。”目前,DDN、Dell Technologies、Hewlett Packard Enterprise、Hitachi Vantara、IBM、NetApp、Nutanix、Pure Storage、VAST Data和WEKA等领先数据平台和存储提供商均选择与英伟达合作,打造可定制化的AI数据平台,充分运用企业数据进行推理并响应复杂查询。

写在最后

AI算力规模已突破百万GPU,但过去几年来,数据供给的滞后让这些“超级大脑”常常陷入饥饿状态。传统存储系统在处理多模态数据时难免掣肘,而基于电信号的网络架构则像拥堵的高速公路。

面对这些挑战,英伟达的答案是将加速计算植入数据管道,让数据流动速度匹配GPU的处理能力。这场变革的本质,是为“数据流动”和“算力协同”构建高速公路,将分散的企业数据转化为可驱动Agentic AI的“燃料”,同时通过光电融合技术突破传统网络的物理限制,让AI走向超大规模落地应用中。

英伟达

英伟达

NVIDIA(中国大陆译名:英伟达,港台译名:辉达),成立于1993年,是一家美国跨国科技公司,总部位于加利福尼亚州圣克拉拉市,由黄仁勋、克里斯·马拉科夫斯基(Chris Malachowsky)和柯蒂斯·普里姆(Curtis Priem)共同创立。公司早期专注于图形芯片设计业务,随着公司技术与业务发展,已成长为一家提供全栈计算的人工智能公司,致力于开发CPU、DPU、GPU和AI软件,为建筑工程、金融服务、科学研究、制造业、汽车等领域的计算解决方案提供支持。

NVIDIA(中国大陆译名:英伟达,港台译名:辉达),成立于1993年,是一家美国跨国科技公司,总部位于加利福尼亚州圣克拉拉市,由黄仁勋、克里斯·马拉科夫斯基(Chris Malachowsky)和柯蒂斯·普里姆(Curtis Priem)共同创立。公司早期专注于图形芯片设计业务,随着公司技术与业务发展,已成长为一家提供全栈计算的人工智能公司,致力于开发CPU、DPU、GPU和AI软件,为建筑工程、金融服务、科学研究、制造业、汽车等领域的计算解决方案提供支持。收起

查看更多
点赞
收藏
评论
分享
加入交流群
举报

相关推荐

登录即可解锁
  • 海量技术文章
  • 设计资源下载
  • 产业链客户资源
  • 写文章/发需求
立即登录