加入星计划,您可以享受以下权益:

  • 创作内容快速变现
  • 行业影响力扩散
  • 作品版权保护
  • 300W+ 专业用户
  • 1.5W+ 优质创作者
  • 5000+ 长期合作伙伴
立即加入
  • 正文
  • 相关推荐
  • 电子产业图谱
申请入驻 产业图谱

NVIDIA AI推论效能/能源效率均佳

2021/09/30
129
阅读需 3 分钟
加入交流群
扫码加入
获取工程师必备礼包
参与热点资讯讨论

人工智慧(AI)推论对于效能有重大影响,根据最新的MLPerf基淮测试结果,NVIDIA在使用x86或Arm架构的CPU进行人工智慧(AI)推论方面取得最佳成绩,此为NVIDIA连续第三度在MLCommons的推论测试中,创下效能及能源效率的纪录。

NVIDIA平台的推论效能表现

搭载NVIDIA AI平台的电脑在最新一轮的七项推论效能测试中均拔得头筹,这些系统由NVIDIA及九个商业生态系合作伙伴所推出,包含阿里巴巴、戴尔科技(Dell Technologies)、富士通(Fujitsu)、技嘉(GIGABYTE)、慧与科技(Hewlett Packard Enterprise)、浪潮(Inspur)、联想(Lenovo)、Nettrix及美超微(Supermicro)。

推论是电脑运行AI软体来辨识物体或进行预测时发生的过程。这是一个使用深度学习模型来筛选资料的过程,以找出人类无法取得的结果。MLPerf的推论基淮是基于目前AI作业负载和情境,涵盖电脑视觉、医疗影像、自然语言处理、推荐系统与强化学习等。因此,不论用户部署哪些AI应用程式,皆能透过NVIDIA的技术创下自己的纪录。

随著AI的应用从资料中心扩大到边缘和其它地方,AI模型及资料集的规模持续扩大。这正是为什么用户在进行部署时,需要同时兼具可靠性与灵活性的效能的原因。MLPerf让用户有信心地做出购买决策。在包括阿里巴巴、Arm、百度、Google、英特尔(Intel)及NVIDIA等数十家产业的支持下,提出透明且客观的测试结果。

Arm架构的推论效能表现

全球各地的资料中心採用Arm架构系统的比例越来越高,部分原因在于其能源效率及效能方面的提升,以及不断扩大的软体生态系。最新的基淮测试结果证明,作为一个GPU加速平台,採用Ampere Altra CPU的Arm架构伺服器在AI推论作业方面,提供与类似配置之x86架构伺服器几乎相同的效能表现。事实上,在其中一项测试中,Arm架构伺服器的表现甚至优于类似的x86架构系统。

相关推荐

电子产业图谱

新电子科技杂志于1986年创刊,以中国台湾信息电子上下游产业的讯息桥梁自居,提供国际与国内电子产业重点信息,以利产业界人士掌握自有竞争力。 内容编辑方面,彻底执行各专栏内容质量,透过读者回函了解读者意见,调整方向以专业丰富的内容建立特色;定期举办研讨会、座谈会、透过产业厂商的参与度,树立专业形象;透过因特网丰富信息的提供,信息扩及华人世界。