加入星计划,您可以享受以下权益:

  • 创作内容快速变现
  • 行业影响力扩散
  • 作品版权保护
  • 300W+ 专业用户
  • 1.5W+ 优质创作者
  • 5000+ 长期合作伙伴
立即加入
  • 正文
    • 如何通过边缘AI构建未来世界?
    • 直面边缘AI开发挑战
    • 先进算力+工具,赋能边缘AI应用
    • 边缘AI设备将百花齐放
  • 推荐器件
  • 相关推荐
  • 电子产业图谱
申请入驻 产业图谱

ST:改变边缘设备游戏规则,AI开发面临哪些挑战?

03/10 22:03
3630
阅读需 12 分钟
加入交流群
扫码加入
获取工程师必备礼包
参与热点资讯讨论

我们对于AI的一个憧憬就是让它能够更普及和更便捷,就像已经深入生活中、又不可或缺的水和电一样,能够触手可及,享受到它们所带来的便利。

日前,意法半导体(ST)亚太区人工智能技术创新中心和智能手机技术创新中心高级经理Matteo MARAVITA在接受<与非网>等媒体时指出,“AI是一项真正能改变许多事情的变革性技术,对于建设未来的互联世界至关重要。而对于云连接的智能边缘设备来说,它们将具有更强的自主能力,将有更多的设备连接到云端,不仅是数据量在提高,本地的数据处理能力也在提高。”


ST亚太区人工智能技术创新中心和智能手机技术创新中心高级经理 Matteo MARAVITA

如何通过边缘AI构建未来世界?

边缘AI具备三个基本要素:安全性、连接性、自主性,Matteo MARAVITA深入分析了第三大要素,即如何提高设备的自主性,来实现我们对于AI的未来设想。

事实上,AI已经深入到了传感器MCU等领域,通过虚拟化方案、模型训练、AI算法等方式,来提升边缘设备的智能性和自主性。

Matteo MARAVITA分享了三个案例:

在车规传感器领域,ST与HPE集团合作,利用边缘AI优化电动汽车电机运维——双方联合开发的虚拟传感器方案,通过在Stellar系列车规微控制器上运行AI算法,获取电机运行数据,进而推断和估计电机内部无法测量到的温度。该方案为电动汽车的预测性维护提供了新的可能,以识别减震、机械和电气系统中可能存在的异常状态。

在PC领域,ST利用六轴IMU MEMS智能传感器,与惠普共同优化了笔记本电脑电源监控。这些传感器能够收集机器在不同条件下的运行数据,以此为基础,双方工程师合作开发和训练了基于设备和用户动作的AI模型。这种模型能够识别特定的使用场景,例如在关闭笔记本电脑前避免过热和电池耗尽,从而延长笔记本电脑的待机时间并提高使用寿命。

在家电领域,通过在洗衣机电机控制的STM32微控制器上运行AI算法,ST能够估算待洗衣物的重量。根据计算,一个洗涤周期可以节省15%-40%的能源和水。同时,AI算法还能够检测滚筒在旋转时可能发生的碰撞情况,提高洗衣机的稳定性和耐用性。

基于这些示例,Matteo MARAVITA指出,其实边缘AI的需求非常大,许多公司非常期待在他们的产品中集成AI。

直面边缘AI开发挑战

不过,摆在边缘AI开发者面前的有许多现实问题:比如硬件性能、安全性、能效等,软件方面,他们需要在设备中实现机器学习模型的创建、训练、部署和维护。这些挑战,都需要像ST这样的老牌半导体企业提供底层支持。

据了解,ST的AI研发计划约始于十年前。从机器学习技术的基础研究开始,逐步发展到专门针对硬件资源受限的边缘设备进行AI优化。多年来,ST推出了STM32 AI库(Cube AI)、内置MLC机器学习核的MEMS传感器、集成更先进硬件加速器的MEMS传感器ISPU、STM32开发者云模型库、更新了Stellar系列车规MCU工具等等。生态建设方面,ST也取得了诸多进展:加入TinyML联盟、将AI布局和支持范围扩展到汽车、Linux等领域,发布NanoEdge AI生态系统……

正是通过多年的布局和推进,ST率先在嵌入式AI领域获得了重要进展:STM32成为部署嵌入式AI的事实硬件平台。根据ML Perf Tiny benchmark基准测试数据:STM32位列第一,有73%的提交项目基于STM32开发。

“我认为这与以下三大因素有关:首先是我们在通用微控制器、工业和消费微控制器市场的优势地位,STM32适用于工业和消费应用;其次是我们为边缘AI基准测试做出的贡献,例如ML Perf Tiny 基准测试;第三是我们的在线平台 STM32 AI开发者云,可帮助客户和开发人员用我们的在线工具和各种STM32板轻松测试他们的模型。我们相信,所有这些都鼓励了围绕STM32进行广泛的AI创新”,Matteo MARAVITA表示。

先进算力+工具,赋能边缘AI应用

正如上文所提到的“在洗衣机电机控制的STM32微控制器上运行AI算法”的应用实例,电机上运行的 STM32,其中AI模型可通过NanoEdge AI工具开发,最终通过优化工具和库来实现机器学习模型在硬件设备上的实现和移植,帮助客户解决性能、安全和能效方面的挑战,方便开发者把机器学习模型导入CPU算力和内存受限的硬件设备。

除此之外,AI加速器能够进一步赋能应用。集成自研NPU的STM32N6是ST比较有代表性的硬件方案,ST与合作伙伴Lacroix合作开发的机器学习模型进行多对象识别跟踪AI算法结果显示,每秒18帧的行人、自行车和汽车检测和跟踪算法全部在NPU上执行,基于Cortex内核的负荷不到5%。在安全性方面,产品不仅在内部集成了可信区域,还增加了安全功能外设,例如防篡改等功能,有了这些新功能,客户和开发者不仅可以保护存储器内的数据,还能保护机器学习模型的安全。

汽车行业对于边缘AI来说是一个更大的机会。例如ADAS自动驾驶,AI帮助汽车避免车外发生的意外事故和危险情况,在车内检测可能存在的危险情况、监视驾驶员驾车状态等。“我们很快就会看到边缘AI在车内的应用普及,并与多个传感器整合,可能出现不同类型的用例。一个可能的例子是监测电池的健康状态,或是识别系统中可能存在的异常,例如结合MEMS加速器来检测系统中的振动等”, Matteo MARAVITA表示。

而除了硬件方面,他认为软件带来的挑战更多。为此,需要提供强大的开发工具和支持,帮助开发人员更轻松地创建、训练和部署模型。比如ST Edge AI 开发套件,整合了边缘AI开发所需的全部工具和模块,从模型库创建用例开始,到收集数据集,再到把模型部署到特定的硬件上,涵盖了整个开发过程,适用于包括嵌入式硬件工程师,软件工程师以及机器学习工程师在内的所有开发者。

此外,ST致力于将AI工具集成到全面的边缘AI开发套件中,并兼容外部的AI开发生态系统。比如支持广泛使用的深度学习框架TensorFlow Lite、Keras、PyTorch 等,并实现与英伟达工具包的兼容性,以及连接到亚马逊云科技(AWS)和微软 Azure等云服务的可能性,同时还兼容MATLAB等仿真工具。

通过这些日趋强大的AI工具和生态上的推进,ST希望加快边缘AI的推广应用。Matteo MARAVITA强调,ST边缘AI解决方案的核心是ST Edge AI,它可以帮助用户根据自己的知识和资源找到最佳的方法和工具。目前,ST Edge AI和Nano AI Studio均免费提供给STM32的客户,同时根据特殊许可协议,其他ARM Cortex-M的微控制器也可以免费使用。

边缘AI设备将百花齐放

“目前边缘AI并没有一个统一通用的开发方法,因此在开发过程中,为开发者提供指引和信息是非常重要的”, Matteo MARAVITA表示,“我们的STEdgeAI 套件就考虑到了这个因素,这套工具可以帮助用户根据自己的知识和资源找到最佳的方法和工具。我们还将考虑融合和统一各种工具的用户体验,以简化人工智能库的设计流程。”

而随着边缘AI的日益普及,许多应用需要长期供电以保证其持续在线状态。针对这些设备开发商,Matteo MARAVITA提出了以下建议,以确保设备的高效、低功耗智能化运行。

首先,他建议将部分AI算法的处理任务从云端迁移到边缘设备。这是ST在边缘AI解决方案方面所专注的核心思路。通过将处理任务本地化,不仅可以节省系统功耗,提高响应速度和安全性,还能有效降低解决方案的总体成本。

其次,选择集成AI加速器和配套软件工具的产品是关键。例如集成了NPU的STM32系列产品,以及在MEMS传感器内部增加的AI加速器(ISPU)。如果AI算法能从应用处理器迁移到MCU,将会显著节省电能。再进一步,如果模型能够从微控制器迁移到MEMS传感器(适用于较小模型的情况),则可以实现总功耗从毫安级降低至微安级。这不仅能确保AI算法在后台持续在线,保证整体系统的有效性,还能实现按需唤醒整个系统,从而进一步实现节能目标。

通过这些策略,设备开发商可以确保边缘AI设备的高效、低功耗和智能化运行,从而满足长期供电和始终在线的需求。

“目前,ST在边缘AI的创新有三大看点:首先是集成AI硬件加速器的硬件产品;第二是配套的软件工具,比如ST Edge AI Suite、AI专用编译器等;第三是为客户提供参考设计和概念验证原型,帮助他们利用人工智能进行产品创新”, Matteo MARAVITA总结道。

他强调,AI仍处于大规模发展初期,预计智能设备的数量即将达到数十亿,加速各行各业的数字化进程。随着研发的进一步推进,越来越多边缘AI加持的设备会进入市场,呈现百花齐放的局面。

 

推荐器件

更多器件
器件型号 数量 器件厂商 器件描述 数据手册 ECAD模型 风险等级 参考价格 更多信息
FT232RL-REEL 1 FTDI Chip USB Bus Controller, CMOS, PDSO28, 10.20 X 5.30 MM, GREEN, SSOP-28

ECAD模型

下载ECAD模型
$4.79 查看
STM32F429IET6 1 STMicroelectronics High-performance advanced line, Arm Cortex-M4 core with DSP and FPU, 512 Kbytes of Flash memory, 180 MHz CPU, ART Accelerateur, Chrom-ART Accelerator, FMC with SDRAM, TFT

ECAD模型

下载ECAD模型
$23.92 查看
STM32F429IGT6 1 STMicroelectronics High-performance advanced line, Arm Cortex-M4 core with DSP and FPU, 1 Mbyte of Flash memory, 180 MHz CPU, ART Accelerator, Chrom-ART Accelerator, FMC with SDRAM, TFT

ECAD模型

下载ECAD模型
$14.94 查看
意法半导体

意法半导体

意法半导体(ST)集团于1987年6月成立,是由意大利的SGS微电子公司和法国Thomson半导体公司合并而成。1998年5月,SGS-THOMSON Microelectronics将公司名称改为意法半导体有限公司。意法半导体是世界最大的半导体公司之一,公司销售收入在半导体工业五大高速增长市场之间分布均衡(五大市场占2007年销售收入的百分比):通信(35%),消费(17%),计算机(16%),汽车(16%),工业(16%)。 据最新的工业统计数据,意法半导体是全球第五大半导体厂商,在很多市场居世界领先水平。例如,意法半导体是世界第一大专用模拟芯片和电源转换芯片制造商,世界第一大工业半导体和机顶盒芯片供应商,而且在分立器件、手机相机模块和车用集成电路领域居世界前列.

意法半导体(ST)集团于1987年6月成立,是由意大利的SGS微电子公司和法国Thomson半导体公司合并而成。1998年5月,SGS-THOMSON Microelectronics将公司名称改为意法半导体有限公司。意法半导体是世界最大的半导体公司之一,公司销售收入在半导体工业五大高速增长市场之间分布均衡(五大市场占2007年销售收入的百分比):通信(35%),消费(17%),计算机(16%),汽车(16%),工业(16%)。 据最新的工业统计数据,意法半导体是全球第五大半导体厂商,在很多市场居世界领先水平。例如,意法半导体是世界第一大专用模拟芯片和电源转换芯片制造商,世界第一大工业半导体和机顶盒芯片供应商,而且在分立器件、手机相机模块和车用集成电路领域居世界前列.收起

查看更多

相关推荐

电子产业图谱

与非网资深行业分析师。主要关注人工智能、智能消费电子等领域。电子科技领域专业媒体十余载,善于纵深洞悉行业趋势。欢迎交流~