走近爱芯元智之前,就已经听说了它的光环。当时它还叫爱芯科技,做AI视觉和算力芯片,成立约一年半时,一颗AI视觉处理芯片已量产,创始人曾任博通副总裁、紫光展锐CTO。成立短短两年,已经完成Pre-A轮、A轮、A+轮融资,投资方阵容豪华:GGV纪源资本、耀途资本、美团战投、韦豪创芯、启明创投、联想之星,堪称投资天团。
是什么样的企业能有这样的速度和吸引力?
近日,来到爱芯元智北京办公室海龙大厦。作为曾经中国最大的电子产品零售地之一,海龙见证了我国上一波电子产品的潮流。如今,作为我国首家“智能硬件创新中心”,海龙早已不是往昔人头攒动的大卖场形象,创新的科技企业入驻,转型、创新才是这个时代的关键词,爱芯元智便是其中的代表之一。
成立于2019年5月的爱芯元智,专注于高性能、低功耗的AI视觉处理器芯片。核心技术产品支持多种AI视觉任务,广泛适用于边缘侧和端侧应用。爱芯元智自主研发的第一颗AI视觉处理芯片AX630A已在去年12月实现量产,第二颗芯片AX620A也在今年7月成功点亮,即将正式开始推广。
爱芯元智创始人兼CEO仇肖莘博士,1991年毕业于清华大学自动化专业,并获得硕士学位,随后前往美国南加州大学完成电子工程博士学位;博士毕业后加入了AT&T Labs-Research;之后,先后担任美国博通公司副总裁、紫光展锐首席技术官,是一位不折不扣的半导体“老将”。
爱芯元智创始人兼CEO 仇肖莘博士
感知+计算两大IP,造芯不要“me too”!
在当今的AI芯片圈,不缺创业公司,也不缺小有成就的创业公司。爱芯元智的特色是什么?仇肖莘强调了两点:“第一,我们有自己的IP,这是未来继续创新的源动力,关键IP我们都会自研;第二,我们不希望做me too的产品,要形成自己的核心竞争力。”
自研混合精度NPU和AI算法赋能ISP是爱芯元智两大核心技术优势。与业内常见的搭载外部NPU的形式不同,爱芯元智重视应用、算法和硬件的深度结合,根据深度神经网络特性,自研了混合精度NPU。灵活运用低比特混合精度算法可以说是一个关键技术,它能有效提高芯片效能功耗比,降低DDR带宽需求。同时,爱芯元智在ISP芯片设计上引入AI的方式,使ISP能够不断得到训练,突破了传统ISP瓶颈,使画质得到增强。
如何理解混合精度NPU?
仇肖莘解释说,NPU芯片通常宣称的标称算力,其实在实际应用中往往是达不到的,这其中一个很大的问题就是数据搬运,也就是所谓的数据墙问题,如果数据搬运不过来,会导致NPU计算单元大部分时间处于闲置状态,导致NPU效率不够高,有效算力低于标称算力。
爱芯元智的解决思路是从数据搬运和数据墙的问题出发,不过,这并不同于存算一体架构的解决方式,而是降低需要搬运的数据量,主要的实现手段就是混合精度。
传统NPU一般的数据表示格式都是8比特/16比特,最后才能达到AI算法所需的精度。而爱芯元智的研究发现,AI网络的一些中间层并不需要那么高的表示精度,可能有的2比特、有的4比特就够了。在这种情况下,整个网络数据表示或所需要的数据量,平均4比特就够了。与原来8比特网络相比,数据搬运量可能仅是原来的1/4。
与存算一体这种希望大刀阔斧解决内存墙的方式相比,爱芯元智使用的是降低要搬运的数据量提升NPU的使用率和效率的方法,这更易于投入到实际应用中。
在核心技术方面,爱芯元智的理念是用技术打造高算力、低功耗、高算力利用率的产品。仇肖莘表示,算力是基础,而有效的高NPU利用率则能够让算力有更好的实际表现。目前,爱芯元智的混合精度NPU,凭借高算力、低成本、低功耗的优势,能够提供高效的AI基础算力平台。
不仅如此,爱芯元智还拥有自研AI ISP图像处理技术,基于自有ISP与NPU的联合架构设计,可以大幅提升传统ISP中多个关键模块的性能。
在AI ISP方面,爱芯元智采用了颠覆传统ISP纯硬件通路的设计方式,通过将ISP的关键模块(比如高动态、3D降噪、锐化色彩还原等)进行软件化、AI化,实现了产品的快速迭代升级。据仇肖莘解释,这也是他们一年就设计出一款高端芯片的“小秘密”,行业龙头企业做了十几年,有十几代的流片经验和优化经验,才达到了今天的水平。而爱芯元智通过关键模块软件化之后,原本需要流片才能提升的效果,通过模型迭代就可以达到。
“我们的ISP其实每两个星期就有新模型,画质一直不断提升。现在,我们已经实现了能够在最短的时间内把图像处理效果达到友商或前辈们暂时还无法达到的高度,主要就是得益于我们把AI引入了ISP pipeline处理中”,仇肖莘补充说,“此外,还有ISP和NPU的联合设计,我们的芯片不光注重算法和硬件的结合,也注重子系统之间的联合设计,这样就能够把NPU的能力在ISP的pipleline上用起来,实现最终的图像效果。”
AX630A是爱芯元智自主研发的第一款高性能、低功耗的AI视觉处理器芯片,仅用时9个月即实现流片,并一次成功,目前已达成量产状态。AX630A主要针对边缘侧、端侧旗舰级应用,算力密度28.8TOPS@INT4;在编解码方面,AX630A可以支持20路1080p解码,同时支持8路1080p编码;再加以爱芯元智专有的AI ISP的图像处理能力,使得AX630A不仅能实现暗光环境下的画质效果,同时还能兼顾典型功耗小于3W的低功耗性能;并可通过算法模型迭代,持续为量产芯片升级。
第二款芯片AX620A也已回片并成功点亮,区别于AX630A的旗舰级定位,AX620A定位于主流市场需求,预计今年年底达到量产状态。从这样的推进步伐来看,基本上是一年一款芯片的节奏。
“打造一个基础算力平台,迎接AI时代的到来”
作为一名半导体老将,仇肖莘亲历了近二十多年的产业变革,对于中国发展半导体也持有坚定的信心。“半导体产业在逐渐向东方、向中国转移,中国市场的整体供应链非常齐全,不管内销市场还是外销市场,整个生产的主体在中国”,仇肖莘谈到,“半导体产业想要有市场,就得在市场应用中一代一代打磨,需要有试错的机会。过去只是采购市面上先进、成熟的芯片比较方便,我们试错的机会并不多。但是最近几年,包括我们的一些客户在内,会愿意给国内的芯片厂商一些试错机会,我觉得这个就非常重要,没道理说我们的芯片做不出来”。
针对垂直细分领域的芯片发展前景,仇肖莘谈到产业“合久必分”的趋势,她认为,很多厂商最初都是做垂直整合的,从芯片到产品,全部都是自家来完成。但是发展到一定阶段后,除非产量到了一定水平,否则是没法持续下去的。第一,技术肯定不如红海中打拼的公司发展得快;第二,成本控制不见得比第三方芯片公司控制得好;第三,规模做不上去,就会制约垂直整合的模式。也正因如此,给了针对垂直细分领域的创新公司很多机会。
谈到技术未来的落地前景,爱芯元智研发副总裁刘建伟认为,“凡是人凭借自己的经验积累可以做的事情,这些都会变成AI能够落地、提高效率的场景。从这个角度来看,其实AI技术在整个社会进行提效的大背景下,应用一定是越来越广泛的。只是可能以前受制于算力,经验性的东西,在落地过程中找不到大算力的支撑和运行。这也是为什么,我们从一开始就相信AI的时代要到来,从这个出发点,我们就坚定要做一个基础算力平台,来迎接这个时代。”
看好AI视觉赛道长期发展
爱芯元智所投入的AI视觉领域,是AI领域绝对的热门赛道。好的一方面是应用市场广阔、积累了大批的人才、聚拢了AI创投的优势资源;但另一方面,竞争激烈、落地难等等都是初创企业需要直面的风险,并且,随着千亿规模的雪亮工程建设逐渐收尾,下一步如何找到更具发展潜力的长尾市场,都是不小的挑战。
对此,仇肖莘表示,“这个市场可能再过两年就要经历一轮洗牌,到时就要看谁能够在这个市场中生存下来,我始终相信还是要有独创技术、产品方向契合客户需求的公司才能存活下来。”她以AX630A为例谈到了爱芯元智独到的竞争优势,其暗光图像视频处理能力、密集场景下的智能分析能力、多路视频结构化处理能力等,具有较为广阔的应用前景。
仇肖莘认为,视觉应用正在成为越来越重要的信息收集方式之一,爱芯元智的技术正是服务于这一应用。通过感知+计算,基于算法、芯片、产品的垂直整合,爱芯元智可提供全栈式的解决方案,一方面进行高效的数据采集,一方面提供强大的算力,可广泛适用于智慧城市、智慧零售、智能社区、智能家居、物联网设备等多个领域。
近日,爱芯元智也宣布正式完成由爱芯科技的更名,并完成品牌升级。据了解,爱芯元智品牌名称变更的灵感来自其英文名AXERA——意为爱芯的时代,同时诠释了爱芯元智的技术独创性,和保持初心、坚持原创的企业理念。不仅体现了爱芯元智作为创业公司的朝气和活力,更是代表了其品牌愿景——成为AI视觉芯片行业领导企业。“爱芯元智本身传达了我们的理念,即爱芯的era(时代),希望依靠我们的原创性技术和产品,通过我们的努力把相关产业带入一个爱芯元智开创的时代”,仇肖莘表示。
除了名称变更,爱芯元智还进一步明确了未来目标,将更加注重边缘侧和端侧的AI芯片研发,将AI的能力发挥到极致,为世界的数字化和智能化新基建提供边缘侧和端侧的支持。