2.3T算力，真的强！1分钟学会NPU开发，基于NXP i.MX 8MP平台！
本帖最后由 陈工-创龙科技 于 2024-12-25 09:35 编辑科技飞速发展，人工智能与工业领域的融合日益深入。NXP旗下的i.MX 8M Plus作为一款高端工业处理器，NPU算力高达2.3TOPS，正引领着工业智能化的浪潮，为众多工业场景带来了前所未有的变革潜力。
https://q2.itc.cn/q_70/images01/20241219/5d1f4603ab47493d9e5384cded07241e.jpeg
图 1
i.MX 8M Plus NPU特性
i.MX 8M Plus的NPU支持INT16/INT32/FP16/FP32等多种数据类型，兼容性卓越，与TensorFlow Lite/Arm NN/ONNX Runtime/DeepViewRT等框架无缝对接。这一特性，为开发者们打造了一个极为丰富的工具和库生态系统，更便利进行模型开发与训练工作，轻松应对各种复杂的大数据运算场景，无论是海量工业数据的分析处理，还是精准智能决策的模型构建，更加游刃有余。
i.MX 8M Plus NPU开发流程
第一步：模型开发
首先，从TensorFlow预训练模型库中选择一个合适的模型，或根据具体任务需求创建自定义模型。然后，收集和准备训练数据集。
第二步：模型训练
可通过eIQ Toolkit工具调整参数（如Weight initialization、Input size、Learning rate等）优化模型性能，配置训练参数后，开始模型训练。
第三步：模型量化
可通过量化一个训练后的模型，减少其大小，并加快在NPU上的推理时间，实现最小的精度损失。
https://q2.itc.cn/images01/20241219/2d9c575ee010433ba9c7380d46bbca54.png
图 2 开发流程示意图
i.MX 8M Plus 典型工业应用
https://q7.itc.cn/images01/20241219/0b8b54c000ca45139f4e435a302d09c3.jpeg
图 3
NPU开发案例演示
本文主要介绍基于i.MX 8M Plus的NPU开发案例，适用开发环境如下。
Windows开发环境：Windows 7 64bit、Windows 10 64bit
虚拟机：VMware15.5.5
开发环境：Ubuntu20.04.6 64bit
U-Boot：U-Boot-2022.04
Kernel：Linux-5.15.71-rt51
LinuxSDK：Real-Time Edge Software 2.5
硬件平台：创龙科技TLIMX8MP-EVM工业评估板（基于i.MX 8M Plus）
为了简化描述，本文仅摘录部分方案功能描述与测试结果，详细产品资料请扫描文末二维码下载。
案例说明
案例基于预训练的TensorFlow Lite模型实现对图片中目标对象的分类。TensorFlow Lite模型循环测试10次，统计出推理的平均处理耗时和帧率，获取模型输出的前五个标签及置信度打印至串口终端并通过HDMI显示屏绘制标签及置信度概率最大的对象结果。
程序处理流程图如下：
https://q0.itc.cn/images01/20241219/45a270fc57844757835de8c4872a52ee.png
图 4案例演示
通过网线将评估板千兆网口ETH0连接至路由器，将HDMI显示器与评估板HDMI2 OUT接口(CON22)连接。
https://q8.itc.cn/images01/20241219/637c335dc03f49489e45966e2071f0c6.png
图 5在可执行文件所在目录，执行如下命令，对图片目标对象进行推理。
Target#./mobilenetv1_label_image -m mobilenet_v1_1.0_224_quant.tflite -y ./bmp_image -l labels.txt -c 10 --external_delegate_path=/usr/lib/libvx_delegate.so
https://q0.itc.cn/images01/20241219/902b3176f5a645feb540cfd93fd54565.png
图 6https://q9.itc.cn/images01/20241219/acf43cf2d2ca405a8c9e0b7a44b4fb9a.png
图 7程序滚动识别多张图片，以第1张图片识别结果为例，输出结果信息如下所示。
https://q5.itc.cn/images01/20241219/07d08c60d3424bb6a632845aa17dc61d.png
图 8从输出信息可知，本张图片识别为桌面电脑、屏幕、监控器、笔记本电脑、桌子的概率分别为53.7255%、20%、7.45098%、4.31373%、2.7451%，程序循环运行10次模型平均耗时为2.6519ms，帧率为377fps。
案例程序对测试图片的目标对象进行识别后，通过HDMI显示屏绘制标签及置信度概率最大的对象结果如下所示。
https://q0.itc.cn/images01/20241219/5a6eb63974b047ea8119ba853e72f3d2.png
图 9若您希望深入了解更多i.MX 8M Plus相关的精彩案例演示，可以通过公众号(Tronlong创龙科技）获取详细资料，快来一起试试吧！
页:
[1]