0
点赞
收藏
分享

微信扫一扫

openvino系列 0. 工作流介绍以及运行

木樨点点 2022-04-26 阅读 75

openvino系列 0. 工作流介绍以及代码运行

环境描述:

  • 本案例运行环境:Win10
  • IDE:VSCode
  • openvino版本:2022.1
  • 代码链接

文章目录


0 openvino 如何工作

openvino 工作流程主要包括四个主要步骤:

  1. 训练(Train):使用代码训练模型;
  2. 模型优化器(Model Optimizer):模型被送到模型优化器,其目标是优化模型并生成模型的中间表示(两个文件:.xml+.bin)。这些模型通过量化、冻结、融合等技术进行了优化。在此步骤中,根据所选框架配置预训练模型,然后使用简单的单行命令进行转换。用户可以从OpenVINO Model Zoo中的一系列预训练模型中进行选择,其中包含用于各种目的的模型,从对象检测到文本识别再到人体姿势估计等等;
  3. 推理引擎(Inference Engine):中间表示被馈送到推理引擎。推理引擎的工作是根据用于训练模型的框架以及使用的硬件(也称为环境)检查模型兼容性。openvino 支持的框架包括 TensorFlow、TensorFlow Lite、Caffe、MXNet、ONNX(PyTorch、Apple ML)和 Kaldi;
  4. 部署(Deployment):将应用程序部署到设备上。对于企业级解决方案,Viso Suite 提供完整的设备管理,以实现大规模自动化和强大的部署。

在这里插入图片描述

1 关于运行环境以及依赖安装

我所使用的运行环境是Win10,一台普通的10代i5笔记本电脑。关于openvino的安装如下:

1.1 OpenVINO RunTime 的安装

注意,如果我们已经安装过OpenVINO™ Development Tools,那么我们就已经安装了OpenVINO™ RunTime。如果还没有,可以参考如下指令。网页链接

这边我是在Win10环境下进行的安装,指令如下:

python -m venv openvino_env
openvino_env\Scripts\activate
python -m pip install --upgrade pip
pip install openvino

1.2 OpenVINO Development Tools 的安装

网页链接

这边我是在Win10环境下进行的安装,指令如下:

python -m venv openvino_env
openvino_env\Scripts\activate
python -m pip install --upgrade pip
pip install openvino-dev[tensorflow2,onnx,pytorch]==2022.1.0 -i https://pypi.tuna.tsinghua.edu.cn/simple

1.3 跑代码之前需要安装的依赖

pip install -r requirements.txt -i https://pypi.tuna.tsinghua.edu.cn/simple

requirements.txt在上一级文件夹中。

添加jupyter notebook添加名为openvino_env的kernal:

python -m ipykernel install --user --name openvino_env

1.4 代码的运行

我们可以在VSCode中打开1-openvino-basic.ipynb,也可以在terminal中打开jupyter notebook。需要注意的是,打开后,我们需要选择kernal,比如在VSCode,Select Kernel按钮在右上方,点击后选择openvino_env

在这里插入图片描述

举报

相关推荐

0 条评论