在 IEI Tank AIoT 开发套件上运行 Python 中的推理引擎 API
本文档提供了有关在支持 FPGA 的 Linux 版 Intel® Distribution of OpenVINO™ 工具包上运行 IEI Tank 的入门信息、链接和资源。
引言
IEI Tank* AIoT 开发套件是一款加固型嵌入式计算机系统，用于在边缘执行深度学习推理。此计算机平台支持多种设备，可用于异构工作流，包括 CPU、GPU 和 FPGA。
本文档提供了有关在支持 FPGA 的 Linux 版 Intel® Distribution of OpenVINO™ 工具包上运行 IEI Tank 的入门信息、链接和资源。下面还将介绍针对 FPGA 运行推理引擎 API 样本（使用 Python*）的步骤。
硬件和软件组件
IEI 新产品发布视频 (IEI New Product Launch video) 提供了 Mustang-F100-A10 加速卡的概述，以及该卡如何安装在 IEI Tank 中的信息。图 1 显示了安装并运行了 Mustang-F100-A10 加速卡的 IEI Tank AIoT 开发套件。
图 1 中所示系统的硬件和软件组件列于下文。
电脑
- IEI Tank* AIoT 开发套件:
- 型号 TANK-870 AI-i5 / 8GB / 2A-R10
- i5-6500TE, 2.3GHz, 四核
- 8GB RAM
- 1TB HDD
软件
- Intel® Distribution of OpenVINO™ toolkit。2018 R4 版本支持带有 Intel® Arria® 10 FPGA 的 Intel® Vision 加速器设计（预览版），这是一款 PCIe 插件卡，可提高性能，同时提供低功耗和低延迟。请参阅免费下载页面，获取支持 FPGA 的 Intel® Distribution of OpenVINO™ 工具包。
- 操作系统：Ubuntu* 16.04 LTS
注意：指定的IEI TANK AIoT 开发套件预装了 Ubuntu 16.04 LTS、Intel® Distribution of OpenVINO™ 工具包、Intel® Media SDK、Intel® System Studio 和 Arduino Create*。
FPGA
- 带有 Intel® Arria® 10 FPGA 的 Intel® Vision 加速器设计:
- 型号 Mustang-F100-A10
- Intel® Arria® 10 FPGA GX1150
- 低矮型、双槽、紧凑型
- PCIe Gen 3x8
软件安装
在线文档“安装支持 FPGA 的 Linux 版 Intel® Distribution of OpenVINO™ 工具包”提供了安装和配置所需软件组件的详细步骤。此全面流程演示了如何
- 安装核心组件和外部软件依赖项
- 配置模型优化器
- 设置 Intel® Arria® 10 FPGA
- 编程 FPGA 配置文件
- 通过运行使用 -d 参数选项来定位 FPGA 的 C++ 分类样本来验证安装。
注意：在尝试运行下一节中介绍的 Python 分类样本之前，必须完成所有这些步骤。
运行面向 FPGA 的 Python* 分类样本
下面将展示运行 Intel® Distribution of OpenVINO™ 工具包中包含的 Python 分类样本所需的步骤。此工作流与安装指南中“运行样本应用程序”部分所示的步骤类似，只是这里运行的是使用 Python 编程语言创建的分类样本。
- 打开一个终端并输入以下命令转到 Python 样本目录
cd /opt/intel/computer_vision_sdk/deployment_tools/inference_engine/samples/python_samples
- 运行一个仅面向 CPU 的 Python 分类样本应用程序，并使用 -ni 参数将迭代次数增加到 100
python3 classification_sample.py -m ~/openvino_models/ir/squeezenet1.1/FP32/squeezenet1.1.xml -i /opt/intel/computer_vision_sdk/deployment_tools/demo/car.png -ni 100
包含 -ni 100 参数时，此程序的输出如图 2 所示。
图 2. 仅使用 CPU 的分类结果。 - 接下来，再次运行该命令，并使用 -d 选项来定位 FPGA
python3 classification_sample.py -m ~/openvino_models/ir/squeezenet1.1/FP32/squeezenet1.1.xml -i /opt/intel/computer_vision_sdk/deployment_tools/demo/car.png -d HETERO:FPGA,CPU -ni 100
包含 -d HETERO:FPGA,CPU -ni 100 参数时，此程序的输出如图 3 所示。
图 3. 使用 FPGA 的分类结果。
摘要
有关 IEI Tank* AIoT 开发套件以及支持 FPGA 的 Linux 版 Intel® Distribution of OpenVINO™ 工具包的更多信息，请查看下面提供的资源。
产品信息
- TANK AIoT 开发套件
- 开始使用 IEI Tank AIOT 开发套件
- Mustang-F100-A10 - 带有 Intel® Arria® 10 FPGA 的 Intel® Vision 加速器设计
- 英特尔® OpenVINO™ 工具包发行版
文章和教程
- OpenVINO™ 工具包和 FPGA
- 安装支持 FPGA 的 Linux 版 Intel® Distribution of OpenVINO™ 工具包
- 加速您的计算机视觉部署的套件
- 使用 Python* 中的推理引擎 API 部署 Intel® Distribution of OpenVINO™ 工具包