6月13日消息,近日芬兰著名的 VTT 技术研究中心旗下的一家科技初创公司Flow Computing宣布一则爆炸性的声明称,其推出的并行处理单元 (PPU)可以“使任何 CPU 架构的性能提高 100 倍”!
据介绍,Flow的FPU能够集成到任何当前已有或即将推出的CPU设计架构、指令集或工艺几何结构中,可提供革命性的 100 倍加速,可立即用于基于冯·诺依曼的标准计算机设计,以实现“CPU 2.0”级别的吞吐量。PPU还消除了在高性能应用程序中对 CPU 指令使用昂贵的 GPU 进行加速的需要。
Flow称,片上集成的 PPU 内核越多,获得的性能提升就越高。同时,SoC当中的其他计算单元也将受益于PPU的性能的提升,以及PPU对CPU性能的提升。
此外,通过Flow提供的编译器对 PPU 进行重新编译,PPU 与该 CPU 架构的每个现有软件应用程序可完全向后兼容,可以大大加速所有现有软件和应用程序中的现有并行功能,而无需更改任何软件。
从应用来看,Flow的突破性架构将可增强嵌入式系统和数据中心的性能,适用于边缘和云计算、AI 云、跨 5G/6G 的多媒体编解码器、自动驾驶汽车系统、军用级计算等用途。
目前,Flow 已经在与来自世界各地的主要半导体供应商进行初步讨论,以寻求下一代 CPU 性能的“圣杯”。更多技术细节将在 2024 年下半年公开分享。
Flow Computing联合创始人兼首席执行官Timo Valtonen表示:“在过去的几十年里,CPU性能只有渐进式的改进,这导致了CPU实际上已成为计算中最薄弱的环节,因为它的顺序架构并不理想。为了满足对更多计算性能的不断增长的需求,CPU性能的新时代已成为必要条件,这在很大程度上是由人工智能以及边缘和云计算的需求推动的。Flow 打算通过其全新的并行性能单元 (PPU) 架构引领 SuperCPU 革命,使任何 CPU 的性能提升 100 倍,无论架构如何,并具有完全的向后软件兼容性。”
Butterfly Ventures的合伙人兼联合创始人Juho Risku也表示:“由于CPU改进速度在过去十年中放缓,科技行业的每个行业都继续受到影响。Flow 是这一趋势的第一个重大变革者,它提供了数倍的性能,而不是几个百分点。而且在我们看来,Flow 将对计算市场的基线性能产生比量子计算等更广泛的影响。尽管很多公司在人工智能方面投入了大量资金,但通用计算将主导其成本并限制其能力。Flow Computing正在通过使下一代SuperCPU轻松超越当前的行业领导者,如Apple M系列,Nvidia Grace,Google Axion和Microsoft Azure Cobalt 100来解决这个问题,“
据悉,Flow公司刚刚获得了 400 万欧元的种子轮融资。参与种子轮融资的实体包括Butterfly Ventures(领投)、FOV Ventures、Sarsia、Stephen Industries、Superhero Capital和芬兰商务促进局。
一、什么是并行处理单元?
据Flow公司官网介绍,并行处理单元 (PPU) 是一个 IP 模块,可以与同一芯片上的 CPU 紧密集成。它被设计为高度可配置,以满足众多用例的特定要求。
支持的自定义选项包括:
PPU 中的内核数(4、16、64、256 等)
功能单元的数量和类型(如 ALU、PPU、MU、GU、NU)
片上存储器资源(缓存、缓冲区、暂存器)的大小
对指令集进行了修改,以补充 CPU 的指令集扩展
对 CPU 的修改很少,包括将 PPU 接口集成到指令集中,并可更新 CPU 内核的数量,以利用新的性能水平。
Flow的参数化设计允许广泛的定制,包括 PPU 内核的数量、功能单元的种类和数量以及片上存储器资源的大小。性能会随着 PPU 内核数量的增加而增加。4 核的 PPU 非常适合智能手表等小型设备,16 核 PPU 非常适合智能手机,而 64 核 PPU 可为 PC 提供出色的性能;256 核 PPU 最适合 AI、云和边缘计算服务器等高需求环境,使它们能够轻松处理最苛刻的计算任务。
二、拥有三大核心优势
据介绍,Flow的并行处理单元 (PPU)具有三大核心优势:
1、Flow 创新的并行处理单元 (PPU) 将 CPU 性能提升 100 倍,开创了 SuperCPU 时代。
创新的并行处理单元 (PPU)专为完全向后兼容而设计,可在重新编译后增强现有软件和应用程序。功能越并行,性能提升就越大。
同时,Flow的技术还增强了整个计算生态系统。比如,辅助组件(矩阵单元、矢量单元、NPU 和 GPU)也可通过增强的 CPU 功能获得了增强的性能。这一切都要归功于 PPU。
2、传统软件和应用程序速度提高 2 倍
Flow 的 PPU 不仅可以在不改变原始应用程序的情况下增强遗留代码,而且在与重新编译的操作系统或编程系统库配对时也能提高性能。
因此,PPU可以帮助各种应用程序中大幅提高速度,特别是那些显示并行性但受到传统基于线程的处理限制的应用程序。PPU 释放了这些应用的全部潜力,而在以前的架构终无法实现这样的性能显著提升。
3、参数化设计
可配置的参数化设计使PPU能够适应多种用途。一切都可以定制,以满足多个用例的特定要求。PPU 内核数支持4核、16核、64核、256核或更多功能单元(如 ALU、PPU、MU、GU 和 NU)的类型和数量。甚至片上存储器资源(缓存、缓冲区和暂存器)的大小也可以根据特定要求进行定制。性能的可扩展性与 PPU 内核的数量直接相关。
三、100倍的CPU性能提升是如何实现的?
那么,Flow公司是如何通过其PPU来实现对于CPU性能100倍提升的呢?据介绍,Flow解决了 CPU 面临的延迟、同步和虚拟级并行性方面的挑战,在这些技术中的创新和关键专利被实施到 PPU 中,它们将共同推动CPU实现 100 倍的性能提升。
1、延迟隐藏
当前冯·诺依曼架构的多核 CPU面临内存访问延迟问题,尤其是共享访问,对多核 CPU 来说是一个巨大的挑战。频繁的内存存取会减慢执行速度,核心间通信网络会导致额外的延迟。传统的缓存层次结构会导致一致性和可伸缩性问题。
Flow公司的PPU则是将内存引用的延迟,通过在访问内存时执行其他线程来进行隐藏。这没有一致性问题,因为没有缓存放置在网络的前面。可扩展性通过高带宽片上网络提供。
2、同步
当前多核 CPU使用并行性会带来额外的挑战。由于 CPU 处理器内核固有的异步性,每当存在线程间依赖关系时,就需要同步线程。这些同步代价很大,通常需要 100 到 1000 个时钟周期。
相比之下, PPU每个步骤只需要同步一次,因为线程在一个步骤中彼此独立,将开销成本降低到 1。同步与执行重叠,将开销成本降低到 1/100。
3、虚拟ILP/LLP
当前多核 CPU对低级并行性的次优处理。只有当指令是独立的时,才能在多个功能单元中执行多个指令。管道危险会减慢指令执行速度。
相比之下,PPU功能单元被组织为一个链,其中单元可以使用其前身的结果作为操作数。可以在执行的一个步骤内执行依赖代码,消除管道危险。
四、提升现有软件和应用程序的性能
Flow技术完全向后兼容所有现有的传统软件和应用程序。PPU 的编译器会自动识别代码的并行部分,并在 PPU 内核中执行这些部分。
此外,Flow 正在开发一种 AI 工具,以帮助应用程序和软件开发人员识别代码的并行部分,并提出简化这些部分以实现最大性能的方法。
小结:
虽然Flow表示其PPU能够为任何当前的冯·诺依曼架构的CPU带来最高100倍的性能提升,但是并未给出明确的指标数据来进行解释,只是说明了会从延迟、同步和虚拟ILP/LLP等方面进行入手来进行改进。并且正如其官网所介绍的,PPU还拥有4到256核的配置,需要配备多少核PPU才能带来100倍性能提升,Flow并未解释。另外,软件的重新编译也是实现 100 倍性能改进的必要条件。该公司表示,软件的重新编译可以使得现有代码的运行速度将提高 2 倍。
另外,PPU是并行处理单元,而GPU的优势也是在于并行计算。Flow甚至还表示,PPU消除了在高性能应用程序中对 CPU 指令使用昂贵的 GPU 进行加速的需要。那么是否意味着,CPU+PPU的组合在某种程度上可以实现超越GPU的AI加速能力?
Flow还在一份常见问题解答文档中解释了其 PPU 与现代 GPU 之间的主要区别。“PPU 针对并行处理进行了优化,而 GPU 针对图形处理进行了优化。”这家初创公司对比称:“PPU 与 CPU 的集成度更高,你可以将其视为一种协处理器,而 GPU 是一个独立计算单元,与 CPU 的连接更为松散。”它还强调了 PPU 不需要单独内核及其可变并行宽度的重要性。
Flow表示,它将在今年下半年提供有关PPU的更多技术细节。至于Flow PPU的商业化进展,它提到了与 AMD、Apple、Arm、Intel、Nvidia、Qualcomm 和 Tenstorrent 等公司合作的可能性。Flow 的 PR 强调了其对 IP 许可模式的偏好,类似于Arm的授权模式,客户需要付费获取其PPU IP,以便嵌入到其CPU设计当中。
编辑:芯智讯-浪客剑