基于EdgeX+OpenVINO™ 的边缘智能融合网关YiFUSION

作者：上海亿琪软件有限公司CEO 褚建琪，Linux基金会亚太区开源布道者 张晶

01、应用场景简介

有边缘智能需求的大部分客户已经对AI推理和边缘计算有一定的了解，都希望可以将边缘数采和AI推理结合在一起，实现硬件资源的充分利用，完成更高层次的业务结合。

英特尔® 视频AI计算盒：已经兴起一段时间，各种业务场景使用的推理模型不计其数，调优和再训练已经成了当前的热门工作内容。

边缘数采：对传统的传感器进行数据收集和处理，已经在各领域应用数十年。

在当前客户的业务需求下：

活切换推理模型，根据业务需要选择。

与北向系统对接，完成云/企业服务融合。

如何将边缘数采和AI推理充分结合，已经破在眉睫，文本提出一种解决方案YiFUSION：将AI推理集成到成熟的边缘计算框架-EdgeX Foundry中，而从快速实现具备边缘数采和AI推理功能的边缘智能融合网关。

02、解决方案系统构架：

本系统设计硬件设计采用英特尔® CPU(iGPU)+GPU[可选] ：CPU必须有，独立GPU可根据实际需要灵活扩展，如下图所示：

本系统全部采用Docker微服务运行，具体功能描述如下：

图例中，①作为AI推理服务器，运行OpenVINO™ Model Server容器；

图例中，②作为流媒体服务器，负责流媒体的编解码，实时查看视频流，运行亿琪软件产品YiMEDIA，同样也采用容器运行；

图例中，③作为边缘计算，运行EdgeX Foundry容器，负责整个系统的协调和业务驱动；

03、硬件环境

准备一台可以作为整个系统运行的硬件设备，笔者使用了开头提到的两种英特尔开发套件家族里的硬件设备分别进行了测试。

1. 研扬科技哪吒（Nezha）开发套件。作为基础型验证或少量摄像头推理；<100 fps(Frame Per Second) 推理性能；

研扬科技哪吒（Nezha）开发套件：https://ic-item.jd.com/10093217881071.html#none

2. 深圳市铂盛科技有限公司生产的算力魔方，型号：PZ21_2L2S。桌面型小主机，可带挂架；作为商业级应用，<10台摄像头推理；<200 fps(Frame Per Second) 推理性能。

算力魔方：https://www.pasuntech.com.cn/2068.html

04、软件实现

采用Ubuntu 22.04作为Docker宿主主机，并且已经成功完成Docker运行环境的安装和测试：

基于OpenVINO™ Model Server提供AI推理服务

采用亿琪软件公司自己的流媒体服务器软件：YiMEDIA，来实现视频流的编解码

使用EdgeX Foundry管理摄像头和边缘数据

亿琪云接收到的推理结果，如下图所示：

05、YiFUSION功能全景图

基于EdgeX和OpenVINO™的边缘融合智能网关YiFUSION具备边缘计算、智能分析、数据融合等功能的智能网关，能够在边缘侧实现数据采集、处理、分析、融合和应用，为用户提供更加智能、高性价比的服务：

06、总结

上海亿琪软件有限公司作为国家级高新技术企业，全球领先的工业物联网软件开发商和解决方案提供商，助力企业和组织实现数字化转型。公司基于EdgeX和OpenVINO™ 打造的YiFUSION边缘融合智能网关产品，为工业客户提供一整套的边缘计算+AI能力：高性能数据采集、多类型数据融合、AI算法集成、云端业务对接。在边缘网关的基础上，集成了IoT平台的边缘协同能力、本地Web SCADA和HMI功能、本地数据存储、边缘AI视频分析、行业应用集成等。

本文详细技术细节，请参考：https://www.edgexfoundry.org.cn/blog/2024/02/24/yifusion_edgex_with_openvino/

上海亿琪软件有限公司联系方式：

网站：www.yiqisoft.cn

电话：18616669123

Email：jiekechoo@yiqisoft.cn