文章作者:武卓
新年里准备好打开 OpenVINO™ 的最新长期支持(LTS)版本了吗?无论你身处 AI 编程之旅的何处,如果你想快速轻松地开发或学习如何开发世界级的 AI 应用程序,并将深度学习推理工作负载从边缘部署到云端,你都会想了解这个 AI 推理工具套件的最新更新!
01、LTS 版本和其它版本的区别是什么?
在软件行业中,LTS 版本的重点是扩展或整合同一产品的先前版本中已经引入的功能,并保证对这些功能的长期支持。从正式发布之日起,它为 AI 开发者提供了一年的 Bug 修复和两年的安全补丁。
尽管为这种稳定性和寿命付出的代价是,此类版本在其整个生命周期内没有额外的功能,但好消息是,OpenVINO™ 今年引入的所有新功能都将包含在 2022.3 LTS 版本中。这些功能包括动态输入、自动批处理、性能优先、AUTO 插件以及对英特尔新的独立显卡(英特尔® 锐炫™ 和 Flex 系列)以及第6代至第13代英特尔® 酷睿™ 处理器的支持。
LTS 版本还包括新的 API 2.0,它于今年早些时候在 OpenVINO 2022.1 中引入,旨在使 AI 开发者更容易采用和维护代码。有关 API 2.0 以及如何转换的更多信息,请参见下方链接:
https://docs.openvino.ai/latest/openvino_2_0_transition_guide.html
02、OpenVINO™ 2022.3 LTS 中有哪些新特性?
除了集成、稳定且经过良好测试的 2022 工具套件更新版本外,OpenVINO 2022.3 LTS 还支持更多的深度学习模型和设备。
AI 开发者将发现更广泛的对于基于 transformer 的自然语言处理(NLP)模型的支持,如 GPT 和 OpenAI Whisper,以及其它模型的支持,如 Stable diffusion(图1);改进了可移植性和性能提升;与 Hugging Face Optimum 集成;加入了新 Jupyter notebook 示例教程,如 YOLOv7、样式转换(图2)和 3D 点云分割(图3)的;以及更多。
图1. Stable diffusion 基于文本提示生成复杂的艺术图像。
例如,蝴蝶部分在雪山上。
图2. 给定图片运行样式转换
图3. 使用 OpenVINO™ 以消耗点云数据并执行推理 3D 分割可视化
03、这个版本提供哪些硬件支持?
在硬件方面,简而言之,OpenVINO 2022.3 LTS 在更多 GPU 上运行得更快、更智能。这里面完整的故事是关于所有受支持的 CPU 和 GPU 的性能提升,与自动设备发现和负载平衡、动态推理并行性以及添加到 AUTO 功能中的计算模式选择携手并进,使多个加速器(例如,多个英特尔® Data Center GPU Flex 系列)能够同时使用,以最大化推理性能。
最重要的是,我们很高兴与大家分享 OpenVINO 2022.3 LTS 正式完全支持英特尔® 独立显卡!
04、为什么支持英特尔® 独立显卡是大新闻?
这是 OpenVINO™ 首次为在英特尔独立显卡上运行推理工作负载提供黄金级支持。凭借五年多在英特尔® 图形处理器(或“ iGPU ”)上优化、测试和部署推理的经验,这只是漫长旅程中的最后一步,它成功地将 OpenVINO™ 带到了可广泛适用于台式机、笔记本电脑和服务器的许多价格合理的 GPU 上去运行 AI 推理。
05、OpenVINO™ 2022.3 LTS 会破坏你现有的 AI 代码吗?
如果该代码已编写或已移植到新的 API 2.0,则不会。
如果您计划在 2023年升级到 OpenVINO™ 的未来版本以利用新功能,请记住,这些功能和优化不会被移植到2022.3 LTS版本。对于生产部署,我们建议保持最新的OpenVINO 2022.3 LTS 版本,直到2023年的新功能在明年的LTS中稳定下来。
06、什么时候升级以及最佳的升级方式是什么?
我们建议希望快速开发和部署高性能 AI 应用程序的每个人都使用 OpenVINO 2022.3 LTS。但是,无论出于何种原因,如果这是不可能的,并且您不想或不需要利用全年发布的所有优秀的功能,则上一个 LTS 版本 OpenVINO 2021.4 LTS 将在 2024 年之前获得安全补丁的支持。
在决定时,非常重要的一点是要记住,LTS 版本是我们在很长一段时间内通过 dot 版本提供官方错误修复和安全补丁的唯一版本。
你可以通过以下命令升级到 OpenVINO 2022.3 LTS 版本:
pip install --upgrade openvino-dev
但请确保检查所有依赖项,因为升级可能会更新 OpenVINO™ 以外的其他软件包。如果您希望安装 C/C++API,请提取预构建的 Docker 映像或从其他存储库下载,请访问下载页面以找到适合您需要的包:
https://www.intel.com/content/www/us/en/developer/tools/openvino-toolkit/download.html
如果您正在查找模型服务说明,请查看以下最新文档:
https://docs.openvino.ai/latest/ovms_what_is_openvino_model_server.html