边缘是相对于数据中心或云计算而言,边缘也有网络的边缘意思,即在一个网络(如:互联网)的边缘。相对于大模型(如:ChatGPT),边缘人工智能(Edge AI)可以运行在边缘的设备上,甚至可以运行在小的传感器上。
边缘人工智能(Edge AI)的发展一方面得益于微控制器(MCU)或微处理器(MPU)算力不断地提升,为数据处理分析等软件提供了计算的支持。另一方面,物联网的发展也促进了边缘人工智能(Edge AI)的发展,可以利用现有的物联网基础设施部署边缘人工智能(Edge AI),使得物联网可以更高效地处理和传输数据。
边缘人工智能(Edge AI)涉及到多个学科知识,如数据分析、机器学习算法、编译器等,一个人或公司难以有全面的知识来开发边缘人工智能产品,这为边缘人工智能(Edge AI)产品开发的工具链提供了创新发展机会,工具链有助于边缘人工智能(Edge AI)项目加速落地。同时,针对边缘人工智能(Edge AI)也出现了一些方案公司。
“工欲善其事,必先利其器”。本文就盘点几家边缘人工智能(Edge AI)的开发平台。
Edge Impulse
Edge Impulse 是一家机器学习开发工具提供商,为企业团队提供了一套在嵌入式设备上构建和部署机器学习模型的工具。Edge Impulse 提供强大的自动化和低代码功能,使为边缘设备构建有价值的数据集和开发高级人工智能变得更加容易。已为Oura、Know Labs和NOWATCH等健康可穿戴设备制造商、NASA等工业组织、顶级芯片供应商以及超过25万个ML项目的10万多名开发人员的所使用,Edge Impulse已成为企业和开发人员值得信赖的平台。
主要应用:预测性维护、资产跟踪&监控、人&动物感知等。
SensiML
SensiML 简化了 TinyML 代码开发的软件工具。SensiML Analytics Toolkit 提供了一个端到端的开发平台,涵盖数据收集、标记、算法和固件自动生成及测试,通过独特的数据收集和标记方法解决了人工智能项目中最常见的失败问题。SensiML 提供了最全面的功能,从简单的点选式用户界面模型创建到模型构建和测试工作流的完整流水线控制。
SensiML Toolkit支持多种Arm® Cortex®-M级及以上微控制器内核、基于Intel® x86的CPU以及Quicklogic的S3平台等异构内核SoC,并对FPGA进行了优化。
主要应用:预测性维护、异常检测、行为识别、手势识别、运动分析、智能照明控制、智能城市和城市道路、可穿戴设备、生物识别、声学特征检测、多设备传感器融合、过程控制和检测等。
Stream Analyze
Stream Analyze 为开发边缘人工智能解决方案提供了一个端到端平台,能够高效地开发、训练、部署和协调分析、计算和人工智能模型。该平台针对资源有限的边缘设备,包括基于 Arm Cortex-M 和 Cortex-A 的 MCU。该平台结合了实时流分析和设备边缘人工智能的功能。所使用的实时数据流架构专为边缘设备和微控制器而设计,可在资源非常有限的设备上进行流式分析。该平台易于学习和使用,适合数据科学家、工程师、领域专家和其他没有较深编码技能的群体。Stream Analyze 的主要目标客户是大型工业和汽车公司,可实现以下领域的广泛用例:实现新服务的产品智能化、产品开发中的产品使用分析、改进运营、预测性维护等。
Stream Analyze 还提供了免费社区版工具,在边缘设备上进行实时数据流管理和分析,交互式环境大大缩短了模型开发流程,实现了从概念到部署的快速、高效进展。
主要应用:矿用装载机、自动驾驶汽车、割草机
221e
221e 是全球领先的智能设备智能精密传感解决方案供应商。人工智能传感器融合算法提供了卓越的准确性和一致的结果,具有显著的成本优势。自2012年以来,一直在提供创新的传感解决方案,为各种产品提供动力,包括可穿戴设备、运动设备和工业应用。
主要应用:健身和运动科学、个人防护装备、娱乐和VR、健康与生物医学、汽车和移动出行、自动化和机器人技术、环境质量监测、建筑和土木工程、设备和机械等。
Octonion
Octonion公司提供在网络边缘连续诊断和预测机器寿命的工业机器智能解决方案。早在五年前开始投资嵌入式人工智能研发活动,Octonion专注于开发为低功耗微控制器优化的传感器数据分析软件,在无监督机器学习、AI模型个性化和工业设备行为预测方面积累了深厚的专业知识。
主要应用:工业预测性维护等
Qeexo AutoML
Qeexo是一家为嵌入式边缘设备(Cortex M0-M4)提供机器学习自动化解决方案的公司,一键式全自动Qeexo AutoML平台让客户能够利用传感器数据为限制很多的环境快速创建机器学习解决方案,适用于工业、物联网、可穿戴设备、汽车、移动设备等应用领域。全世界超过3亿台设备装备了基于Qeexo AutoML的人工智能。
2023年1月4日,TDK 株式会社收购了 Qeexo 公司。Qeexo 将成为 TDK 的全资子公司。
主要应用:工业 & 制造业、交通运输 & 汽车、智慧楼宇、能源 & 发电
Archetype AI
Archetype AI是一家专注于开发Physical AI基础模型的前沿AI公司。Physical AI是一种能够感知、理解和推理周围世界的新型人工智能。Archetype AI开发的 “大型行为模型” (Large Behavior Model, LBM) 是一个融合实时传感器数据和自然语言的多模态 AI 基础模型,融合了实时传感器信号和自然语言,能够揭示非结构化传感器数据中隐藏的行为模式。
主要应用:电视、智能音箱和智能家电等
NanoEdge AI Studio
意法半导体公司的NanoEdge™ AI Studio*(NanoEdgeAIStudio)是一种新型机器学习(ML)技术,可以让终端用户轻松享有真正的创新成果。只需几步,开发人员便可基于最少量的数据为其项目创建最佳ML库。
NanoEdge™ AI Studio的一大优势是无需专门的数据科学技能即可使用。任何使用Studio的软件开发人员无需人工智能(AI)技能,即可通过其用户友好的环境创建最佳ML库。
主要应用:预测性维护、环境感知、人类活动、资产追踪、人机接口、目标检测、生物识别、图像分类等。
Imagimob
Imagimob 是一家快速发展的初创公司,致力于推动边缘人工智能和tinyML 领域的创新,为未来的智能产品提供支持。公司总部位于瑞典斯德哥尔摩,自 2013 年以来一直为汽车、制造、医疗保健和生活方式行业的全球客户提供服务。2020 年,Imagimob 推出了 IMAGIMOB Studio,用于为资源有限的设备快速、轻松地开发端到端Edge AI应用程序。IMAGIMOB Studio 可在整个开发过程中为用户提供指导和支持,从而提高生产力,加快产品上市速度。
2023 年 5 月,英飞凌科技公司收购了 Imagimob 100% 的股份。Imagimob 属于互联安全系统 (CSS) 部门。
主要应用:音频分类、预测性维护、手势识别、信号分类、坠落检测、材料检测等
Reality AI
Reality AI广泛的嵌入式AI和TinyML解决方案,可用于汽车、工业及消费类产品的高级非视觉传感,完美适配瑞萨嵌入式处理及物联网产品。它们可为机器学习提供先进的数学方法进行信号处理,从而实现快速、高效的机器学习推理,可适用于小型MCU及强大MPU。使用Reality AI Tools®这一个可以支持完整产品开发生命周期的软件环境,用户可自动探索传感器数据并生成优化的模型。Reality AI Tools包含分析功能,能够找到最佳传感器或传感器组合、传感器放置的位置并自动生成组件规格,并且以时域/频域的方式完全解释模型函数。
2022 年 7 月,瑞萨电子收购了嵌入式AI解决方案优秀供应商Reality Analytics, Inc.(Reality AI),成为了瑞萨电子的间接全资子公司。
主要应用:电机控制(预测性维护、异常检测及智能控制反馈)、HVAC、汽车安全警告(警笛、检测距离、定位)等
eIQ® ML
eIQ是恩智浦公司的机器学习工具。恩智浦®eIQ®机器学习(ML)软件开发环境支持在恩智浦EdgeVerse™微控制器和微处理器(包括i.MX RT跨界MCU和i.MX系列应用处理器)上使用ML算法。eIQ ML软件包括称为eIQ Toolkit的ML工作流工具以及推理引擎、神经网络编译器和优化库。
eIQ Toolkit使用直观的GUI (eIQ Portal)、开发工作流工具以及命令行主机工具选项(作为eIQ ML软件开发环境一部分)支持机器学习开发。eIQ Portal是与Au-Zone Technologies独家合作开发的,它是一个直观的图形用户界面(GUI),简化了ML开发。
eIQ Portal提供的输出软件,可无缝输出到DeepViewRT™、TensorFlow™Lite、TensorFlow Lite Micro、Glow、Arm NN和ONNX运行时推理引擎。
主要应用: 物体检测和识别、语音命令和关键词识别、异常检测、图像和视频处理、其他(智能可穿戴设备、智能工厂和智能建筑、医疗保健和诊断、增强现实、物流、公共安全)
小结
边缘人工智能(Edge AI)的工具链主要是用于人工智能软件算法的开发,包括数据分析处理、模型训练、模型转换、模型部署等。由于边缘人工智能(Edge AI)开发的专业性和复杂性,出现了面向AI开发的软件平台,简化了开放流程,易于开发边缘人工智能(Edge AI)相关产品。由于边缘人工智能模型训练、迭代、升级等需求,有了面向边缘人工智能的SaaS平台,软件即服务。借助已部署的物联网基础设施,边缘人工智能将会赋能更多设备的自主智能。