OpenVINO是个开源工具包，用于优化和部署从云端到边缘的深度学习模型。它通过PyTorch、TensorFlow、ONNX等流行框架的模型加速了各种用例的深度学习推理，如生成式AI、视频、音频和语言。转换和优化模型，并在Intel®硬件和环境、本地和设备、浏览器或云中进行部署。

1）加载模型目前支持IR(OpenVINO)/ONNX/PDPD/TF/TFlit格式。
2）将模型部署到终端（AUTO/CPU/GPU/NPU等英特尔终端）
3）创建推理请求
4）设置输入（根据模型的说明设置）
5）开始推理
6）读取推理结果,获取推理的OutPUT

OpenVINO是英特尔开源的一个工具，提供了Python、C++、C、Node.js的SDK，这些语言的开发者可以使用OpenVINO发布的SDK直接进行推理，很遗憾并没有发布LabVIEW的SDK，这使得众多的LabVIEW开发者使用OpenVINO工具进行推理变得困难。

LabVIEW提供了接入DLL的接口Call Library Function Node功能，可以调用底层OpenVINO的API进行封装，这也有助于更加深刻的理解这个开放工具的细节。这里使用OpenVINO的C—api（https://docs.openvino.ai/2024/api/c_cpp_api/group__ov__c__api.html）进行封装，感兴趣的同学可以读C文档自己来封装工具，这个工作相对来说有些难度，需要读懂每个函数的文档，并且了解指针的工作原理等。作者也是花了很多时间封装，测试，嫌麻烦的可以联系作者。

作者按照OpenVINO的推理流程设计了主要的6个VI，另外提供了获取模型的输入参数及输出参数的VI方便推理前处理及推理后处理。

整套OpenVINO For LabVIEW的SDK设计理念与LabVIEW流程思想相符，使用简单。

1）DWPose

DWPose是23年8月份由IDEA研究院开发的一种高效全身姿态估计模型,其全称为”Effective Whole-body Pose Estimation with Two-stages Distillation”。该模型采用了两阶段蒸馏的方法,能够准确估计人体的全身姿态,包括身体、脚部、面部和手部。

该模型在设计思路和整体效果上是比较考前

的。

LabVIEW Demo

，时长00:18
2）Depth_Anything

24年1月论文“Depth Anything: Unleashing the Power of Large-Scale Unlabeled Data“，来自香港大学、字节、浙江实验室和浙江大学

LabVIEW Demo

，时长01:13
3）YOLO11

YOLO11是Ultralytics YOLO系列实时目标检测器的最新迭代版本，24年9月30号发布。它以尖端的准确性、速度和效率重新定义了可能实现的性能。在之前YOLO版本取得的显著进步基础上，YOLO11在架构和训练方法上进行了重大改进，使其成为各种计算机视觉任务中的通用选择。

LabVIEW YOLO11-POSE

，时长01:22
LabVIEW YOLO11-SEG

，时长00:19

有任何问题欢迎交流：