65.9K
CodeProject 正在变化。 阅读更多。
Home

OpenVINO™ 与 TensorFlow 集成,现已支持 Docker

emptyStarIconemptyStarIconemptyStarIconemptyStarIconemptyStarIcon

0/5 (0投票)

2022年11月1日

CPOL

3分钟阅读

viewsIcon

3921

在这篇文章中,我们将首先使用 DockerHub 上的预构建镜像。 然后,我们将逐步讲解您需要访问 Docker 上的目标检测笔记本的确切命令。

您好,欢迎阅读关于使用 Docker英特尔的 OpenVINO™ 与 Tensorflow* 集成的图文指南,以加速您在英特尔硬件上 TensorFlow 模型的推理。

在本文中,我们将首先使用 DockerHub 上可用的 预构建镜像。 然后,我们将逐步讲解您需要访问 Docker 上目标检测笔记本的确切命令。

让我们开始吧!

对于这篇文章,我们将尝试在 Windows 操作系统上运行 OpenVINO™ 与 TensorFlow* 的集成。 您将需要 适用于 Windows 的 Docker Desktop

如果您计划在 Ubuntu 操作系统上尝试,请参阅此 链接。 该链接还提供了从托管的 Dockerfile 构建运行时镜像的说明。

首先,我们只需在我的 Intel® Core™ i7 CPU 上拉取并运行最新的 Docker 镜像。 要执行此操作,请单击此 链接 并向下滚动到“Docker 支持”部分,然后选择您选择的 Ubuntu 预构建镜像。

在这里,我们使用 Ubuntu 20 预构建镜像

接下来,在您的 Windows PowerShell 中键入以下命令。

  • docker pull openvino/openvino_tensorflow_ubuntu20_runtime
  • docker run -it --rm -p 8888:8888 openvino/openvino_tensorflow_ubuntu20_runtime:latest

您将注意到两件事

  • OpenVINO™ 环境已初始化
  • 托管笔记本的服务器位置和 URL

要访问笔记本,请将托管笔记本的 URL 复制并粘贴到您的浏览器中。

注意:Docker 镜像托管一个 Jupyter 服务器,其中包含一个图像分类和一个目标检测示例,它们演示了使用 OpenVINO™ 与 TensorFlow* 集成的性能优势。

您可以在 Docker Desktop 上查看镜像的状态,它看起来像这样。

此外,如果您愿意,请查看这篇文章的视频版本以及在此处运行笔记本的步骤。 您将会对加速效果和模型表现如此出色而感到惊讶。

视频 TLDR;该视频展示了一个涵盖目标检测用例的笔记本,并演示了在 coco 数据集上训练的 YOLOv4 模型的加速。 您可以在 GitHub 上找到此特定示例。

最后,如果您有兴趣探索更多使用 Docker 和 OpenVINO™ 与 Tensorflow 集成的笔记本,以下是一些您可能会喜欢的优秀资源链接。 本文深受它们的启发。

链接

OpenVINO™ 与 TensorFlow* GitHub 主页:https://github.com/openvinotoolkit/openvino_tensorflow

预构建镜像

https://github.com/openvinotoolkit/openvino_tensorflow/tree/master/docker#prebuilt-images

用于 OpenVINO™ 与 TensorFlow 集成的 Dockerfile

https://github.com/openvinotoolkit/openvino_tensorflow/tree/master/docker#openvino-integration-with-...

用于 TensorFlow Serving 与 OpenVINO™ 与 TensorFlow 集成的 Dockerfile

https://github.com/openvinotoolkit/openvino_tensorflow/tree/master/docker#dockerfiles-for-tf-serving...

要尝试的笔记本

https://github.com/openvinotoolkit/openvino_tensorflow/blob/master/examples/notebooks

我们制作这篇文章时非常开心,所以如果您觉得这篇文章有帮助,或者您希望在下一篇文章中看到什么内容,请在评论中告诉我们。 一如既往,感谢您的阅读!

资源

声明和免责声明

英特尔技术可能需要启用硬件、软件或服务激活。

没有任何产品或组件可以绝对安全。

您的成本和结果可能会有所不同。

英特尔不控制或审计第三方数据。 您应该查阅其他来源来评估准确性。

© 英特尔公司。英特尔、英特尔徽标和其他英特尔标志是英特尔公司或其子公司的商标。其他名称和品牌可能是其他方的财产。

© . All rights reserved.