.
C#调用OpenVINOTM部署Al模型项目开发项目,简称OpenVinoSharp,这是一个示例项目,该项目实现在C#编程语言下调用Intel推出的 OpenVINO™ 工具套件,进行深度学习等Al项目在C#框架下的部署。该项目由C++语言编写OpenVINO™ API接口,并在C#语言下实现应用。
项目可以实现在C#编程语言下调用Intel推出的 OpenVINO™ 工具套件,进行深度学习等Al项目在C#框架下的部署,目前可以支持的Al模型格式:
Paddlepaddle 飞桨模型 (.pdmodel)
ONNX 开放式神经网络交换模型 (.onnx)
IR 模型 (.xml, .bin)
目前该项目针对 Paddlepaddle飞桨现有模型进行了测试,主要有:
PaddleClas 飞桨图像识别套件
PaddleDetection 目标检测模型套件
.
.
OpenVINOTM是英特尔基于自身现有的硬件平台开发的一种可以加快高性能计算机视觉和深度学习视觉应用开发速度工具套件,支持各种英特尔平台的硬件加速器上进行深度学习,并且允许直接异构执行。支持在Windows与Linux系统,官方支持编程语言为Python与C++语言。
OpenVINOTM 工具套件2022.1版于2022年3月22日正式发布,根据官宣《OpenVINOTM迎来迄今为止最重大更新,2022.1新特性抢先看》,OpenVINOTM 2022.1将是迄今为止最大变化的版本。从开发者的角度来看,对于提升开发效率或运行效率有用的特性有:
提供预处理API函数
ONNX前端API
AUTO 设备插件
支持直接读入飞桨模型
该项目开发环境为OpenVINOTM 2022.1最新版本,因此使用者需在使用时将自己电脑上的OpenVINOTM 版本升级到2022.1版,不然会有较多的问题。
.
.
该项目主要通过调用dll文件方式实现。通过C++调用OpenVINOTM,编写模型推理接口,将我们所用到的推理方法在C++中实现,并将其生成dll文件,在C#调用dll文件,重写dll文件接口,并重新组建Core类,用于在C#中进行模型的推理,其方案如图1- 1所示。
图1- 1 项目解决方案
该项目所有文件已经上传到Github和Gitee远程代码仓,大家可以通过Gi在本地进行克隆。
系统平台:
Windows
软件要求:
Visual Studio 2022 / 2019 / 2017
OpenCV 4.5.5
OpenVINO 2022.1
安装方式:
在Github上克隆下载:
git clone https://github.com/guojin-yan/OpenVinoSharp.git
在Gitee上克隆下载:
git clone https://gitee.com/guojin-yan/OpenVinoSharp.git



