1619
“技术演进的速度从来都不是线性的，回顾手机与物联网的发展历程，我们会发现第一部手机发明于1940年代，而手机市场的爆发式增长却出现在2000年代后期，同样的，我们看到了物联网几乎平行的趋势，经历了自控、互连和智能三个阶段。所以，人工智能物联网（AIoT）一定是物联网（IoT）未来发展的必然趋势，也是促进物联网腾飞和使整个物联网生态利益均沾的动力。” 在今年的ELEXCON 深圳国际电子展上，Arm物联网事业部业务拓展副总裁马健如是说。
图 | Arm物联网事业部业务拓展副总裁 马健
据悉，在2021年出货的近300亿颗基于Arm架构的芯片中，有2/3 (近200亿颗)被部署到了物联网和嵌入式应用中。
什么是AIoT？
从字面上看，AIoT可以拆解为“AI+IoT”，而IoT已经提了那么多年，人们对它的概念已经不陌生，所以要弄清楚AIoT，还得先了解AIoT与传统IoT的区别。
事实上，AIoT与传统IoT的区别在于云边端协同的整个系统对于数据感知、采集、处理的能力，全链路安全可靠性，边缘设备实时决策效率，以及创新迭代速度的显著提升。与此同时，AIoT对系统算力的要求也会更高。
未来，AI算子的落地会根据应用对延时、安全、带宽的不同需求出现在传感器侧或控制端。
对此，马健表示：“Arm产品将全面支持人工智能的部署，打造物联网全面解决方案，助力AIoT智能视觉、智能语音/音频，以及融合感知等用例的敏捷开发部署，给予客户更灵活的选择。”
在传感器侧，Arm Cortex-M嵌入式处理器是目前普遍的选择方案。而Arm今年发布的最新款Cortex-M85处理器，不仅通过新增Helium技术，大幅度提高机器学习计算性能，同时也增强了安全性、系统可靠性等。此外，Arm也推出助力智能视觉的加速器Mali-C55图像信号处理器，以及适于终端AI的加速器Ethos U系列，提升端侧AI算力和效率。
在控制侧，Arm 看到更多客户选择了Arm Cortex-A系列应用处理器，因为它具备更丰富的数据处理、更强大的AI与安全支持。Arm最新的Armv9架构最重大的升级在于AI和安全，在兼容Armv8架构的基础上，提升了安全性，增加了矢量计算、机器学习和数据信号处理等多方面能力，性能表现也得到极大幅度的提升。
AIoT将在哪些领域率先落地？
根据GSMA发布的《The mobile economy 2020(2020年移动经济)》报告显示，2019年全球物联网总连接数达到120亿，预计到2025年，全球物联网总连接数规模将达到246亿，年复合增长率高达13%。
此外，根据IDC发布的数据显示，2019年全球AIoT市场规模达到2264亿美元，预计到2022年将提升至4820亿美元，2019-2022年复合增长率有望达到为28.65％。
根据以上两组数据，可以看出，不论是IoT还是AIoT，全球市场规模的增长都相当可观，且AIoT的增长速度快于整体IoT市场。
那么到底在哪些细分领域，AIoT正在优先落地呢？马健告诉与非网：“从技术角度来讲，利用AI/ML技术驱动的智能视觉、智能音频、智能语音以及融合感知应用是人工智能物联网落地的先发板块。从应用角度来讲，延续智慧城市、智能楼宇和智慧家庭的用例，人工智能物联网将在工业物联网和医疗健康领域落地开花。”
同时，她用MediaTek、研华和Canonical在工业智能物联网领域的联合解决方案来举例，表明AIoT正在朝着高端化的方向发展，市场对单板计算机 (SBC)的需求正在扩张。为此，MediaTek发布了基于Arm Cortex-A78、Cortex-A55 CPU、Mali-G57 GPU的AIoT 芯片产品组合Genio 。而作为更下游的研华，已经针对以视觉应用为主的IoT市场推出了基于Genio 1200芯片的RSB-3810 SBC。
国内外AIoT产业的差距有多大？
我国的AIoT产业正从蓄力期过渡至高速发展期，国内市场在人工智能物联网方面的用例更丰富，消费者的接受能力也很高。在智能视觉和语音/音频方面，由于国内有丰富的数据集支持人工智能训练，和诸如智慧城市等成熟的用例，国内厂家在技术上也相对领先，生态系统也日趋成熟。
然而不得不承认的是，我国的自动化和联网化程度还和国际发达水平有着不小的差距，尤其是在工业物联网方面。
撇开基础差距不谈，仅从技术路线的角度来剖析，可以发现，国外欧美成熟市场在人工智能物联网方面更注重软件定义系统和敏捷开发迭代，将现代化的CI/CD、DevOps、MLOps、容器和微服务等云原生的概念应用到端和边缘。Arm在2021年底推出的Arm虚拟硬件 (Arm Virtual Hardware, AVH)，就在AWS、GitHub、Tensorflow CI/CD得到了应用，促进AIoT软件和AI模型的敏捷开发迭代。同时，欧美市场对于人工智能物联网安全也格外重视，以AWS为例，不仅将其主推的FreeRTOS通过了PSA Certified安全认证，而且其IoT云服务督促接入的设备通过同一认证。
从IoT向AIoT转型过程中的挑战有哪些？
“AIoT未来是由软件定义系统，敏捷开发迭代理念及方法，和更开放拥抱合作的文化来支撑的。一个企业如果可以逐步完成创新文化的转型，那么技术上的挑战会迎刃而解。反之，如果不能跳出传统的思维方式，在员工技能转型、产品开发流程等方面进行改革，单纯评估技术有可能会事倍功半。”这是马健对IoT向AIoT转型过程中挑战的理解。这意味着，从某种程度上来说，文化挑战大于技术挑战。
而单讲技术方面的挑战，马健又特别着重以下五个方面：
- 低功耗异构计算设备的设计和实现：AIoT将使支持人工智能的算力分布到世界的每个角落，这样的规模对能耗和计算效率有极高的要求，如何在AIoT部署的同时保证低碳、绿色计算，将是技术创新的一大方向；
- 软硬件协同创新：AIoT和边缘智能点燃了AI加速器硬件的创新热潮，但是边缘AI硬件加速能力能否完全释放给应用层，这还需要倚靠工具链、底层基础软件和AI框架模型的协同；
- 全链路安全：AIoT使数据和计算走出数据中心，失去物理安全的保护，增大了安全攻击面。如何保证数据在静止、传输和使用中的安全，是影响到AIoT发展的紧迫问题；
- 敏捷开发迭代：人工智能模型针对应用的优化依赖于使用真实数据对模型的重新训练以及分发，物联网安全的提升也依赖于设备安全软件的及时更新，这些需求意味着AIoT系统必须要使用敏捷开发迭代机制，包括将CI/CD、DevOps、MLOps、容器和微服务等云原生的概念应用到端和边缘；
- 拥抱开放、标准和生态系统合作：物联网的碎片化会直接抑制AIoT的规模发展与部署，将非差异化的模块标准化，以开放的模式合作开发，是减少碎片化，并提高整个生态系统发展速度的关键。
随着市场规模的扩张，“安全问题”将成为行业焦点？
根据《PSA Certified 2022安全性报告》预测，随着全行业协力解决长久以来确保生态系统安全性速度滞后数字化转型进度的难题，2022年将成为确保物联网安全的一大转折点。物联网安全性早已迈过了早期采用阶段，其未来的演进方向非常清晰——安全是根本基础，而非可有可无。
对此，马健表示：“Arm正在分别从认证标准、架构创新、IP实践、软件赋能等方向，助力产业安全达标。”
在认证标准方面，Arm 持续推动安全性最佳实践的共同标准，如PSA Certified与PARSEC 等。由 Arm 等公司牵头构建的PSA Certified是一个全球项目，并积极地将安全最佳实践大规模地应用于设备。得益于安全框架和认证计划，PSA Certified 为原本非常分散的市场带来了针对物联网安全解决方案的整合。PSA Certified 对安全的信任根 (RoT) 的含义进行了标准化，目前，包括 70 款芯片在内的100 余个产品均采用了这一标准，为全球物联网开发者简化了建立在 RoT 基础上的物联网安全开发。其中，包括阿里云、瑞芯微、恒玄、晶晨等多家中国企业都有产品通过PSA Certified安全认证。安全的标准化对于生态系统的蓬勃发展是至关重要的，也是必不可少的。
在架构创新方面，为了应对保护全球数据的技术挑战，Armv9 引入了 Arm机密计算架构 (Confidential Compute Architecture, CCA)。 CCA通过在基于硬件的安全环境中执行计算，保护部分代码和数据在使用时不被访问或修改，甚至不受特权软件的影响。CCA 还引入动态创建机密领域 (Realms) 的概念，机密领域面向所有应用，运行在独立于安全或非安全环境之外的环境中，是存储数据和执行代码的动态安全区域，与操作系统或管理程序的特权模式分离，以实现保护数据安全的目的。例如，在商业应用中，机密领域可以保护系统中商用机密数据和代码，无论它们正被使用、闲置或正在传输中。Arm机密计算架构建立在Arm TrustZone技术之上，是软件容器的硬件版本，允许应用程序轻松地在不同的系统上运行。例如在非安全区的运行的应用程序可以动态申请机密领域，以保护自己的算法或数据。
在 IP 实践方面，Arm通过包括适用于 Cortex-A 与Cortex-M 的 Arm TrustZone 等产品组合令最终客户可以放心部署从云到端的物联网应用。TrustZone 旨在保护敏感程序代码和数据在 CPU 中的硬件强制隔离。作为建立 PSA-RoT 的起点之一，它可在同
一芯片内提供安全（可信）和非安全（不可信）区域。TrustZone 在 2004年就已应用于应用级处理器，并于 2016 年被添加到 Cortex-M 系列中，成为在简单、低功耗的物联网终端以及更复杂的设备中实现隔离的可行选择。今年新推出的Arm Cortex-M85也搭载了 TrustZone 技术，以增强安全性。此外，它还包括了指针认证和分支目标识别 (Pointer Authentication and Branch Target Identification, PACBTI)，这一全新架构功能具备增强的软件攻击威胁缓解能力，有助于实现物联网部署的安全基线 PSA Certified Level 2。
在软件赋能方面，Arm 在提供卓越的硬件安全功能的同时，也为一些关键的开源软件项目做出了贡献，从而确保软件开发者能够轻松且一致地访问和集成 PSA Certified 规定的关键基础安全功能，这些功能也充分利用了 TrustZone等类似功能。
马健强调：“Arm助力物联网的方法旨是协助Arm的合作伙伴取得成功，以确保他们能够参与定义全新的市场和经济，而物联网将为全球企业带来巨大的数据和洞察力。信任和安全是这个机会的基础——而 Arm的生态系统已经步上正确的道路，为新的物联网经济铺垫基石。”
完善的生态系统是AIoT产业良性循环的基础
只有把AIoT这些关键技术和千行百业的具体应用场景结合起来，才能激发它的真正活力，从Arm的角度来看，开发者是促进AIoT加速发展的关键因素之一。
目前由于物联网硬件的碎片化，开发者被迫花费大量的时间和精力去做不同硬件平台之间的底层适配工作，这些其实是不利于他们把精力和资源去开发真正有价值和差异化的实际应用。
为此，马健表示：“Arm在大力推动的物联网全面解决方案、Arm虚拟硬件，以及生态系统项目，包括针对 Cortex-A应用处理器的Project Cassini和针对Cortex-M嵌入式处理器的Project Centauri，就是呼吁大家一起合力促进开放生态标准的建立，打通硬件平台碎片化的壁垒，引进更先进的开发模式和示范样例（CI/CD、DevOps、MLOps等等），助力行业的积极健康发展。”
写在最后
新冠流行、全球变暖等全球或区域范围的社会议题都在促使着各行各业不断应用最新的技术，来不断加强与世界人民息息相关的安全支柱，包括：食物、医疗保健、环境保护、人身安全、社区安全等。
马健认为：“2023年将见证人工智能物联网被应用于解决最紧迫的全球挑战，诸如智慧农业、智慧医疗、智慧环保等方面。”
同时，她还强调：“人工智能物联网的丰富应用需要倚靠软硬件技术栈提供的基本功能，而Arm已经准备就绪，从可支持各种AIoT芯片组合的丰富处理器与系统IP，到包括编译器、工具链、操作系统，以及AI框架与模型算法优化的强大生态系统，再到通过Arm虚拟硬件引入现代化的开发方式，提供友好的赋能开发者机制，Arm与生态伙伴正在共同推进人工物联网的加速落地，实现更丰富的应用创新。”
