This deck was used at the OpenVINO seminar in DLLAB on 12/11/2019.

1. インテル株式会社
AI テクニカル・ソリューション・アーキテクト
大内山 浩
1

2. © 2019 Intel Corporation
2
Microsoft × Intel技術
• Azure VM
• Fsv2シリーズ（Xeon - Skylake）、HC-series（Xeon - Skylake）、SAP HANA on Azure Large
Instances（Xeon - Cascade Lake）
• VM Image
• Intel Data Science VM for Linux（Intel Tensorflow、Intel PyTorchが含まれる）
• IoT EdgeとOpenVINOの連携
• https://software.intel.com/en-us/get-started-with-the-openvino-toolkit-and-microsoft-azure-iot-
edge
• Spark/Databricks + Analytics-Zoo
• https://github.com/intel-analytics/analytics-
zoo/blob/master/docs/docs/PlatformGuide/AnalyticsZoo-on-Databricks.md
• VC++へのML/DL強化
• https://software.intel.com/en-us/oneapi/onedal
• ONNX Runtime
• https://github.com/microsoft/onnxruntime/blob/master/BUILD.md#openvino

3. © 2019 Intel Corporation
3
検討のポイント
どこで使うか
Azure
オンプレ
（エッジ／デバイス）
何を使うか（モデル）
学習済みモデル
カスタムモデル
誰に向けたものか
エンドユーザー
IT屋
or or or

4. © 2019 Intel Corporation
4
アイデア①
オンプレ、クラウドの連携は考えずに、OpenVINOの事前学習済みモデルをメイ
ンにAIアプリを作る。
オンプレ
Azure

5. © 2019 Intel Corporation
5
アイデア②
トレーニングをAzure AIで、推論をOpenVINOで。
オンプレ
Azure
Custom
Vision
Azure ML
service
DSVM /
Intel
DSVM

6. © 2019 Intel Corporation
6
Custom Visionで画像分類モデルを作って、
OpenVINOで推論するサンプル
• https://github.com/hiouchiy/IntelAI_and_Cloud/tree/master/Azure/classification

7. © 2019 Intel Corporation
7
アイデア③
トレーニングをAzure AIで、推論をOpenVINOで。プロセス自動化などの仕組み
の方を作る。
オンプレ
Azure
Custom
Vision
Azure ML
service
DSVM /
Intel
DSVM
トレーニングからデプロイまでの自動化、
MLOps。

8. © 2019 Intel Corporation
8
アイデア④
エッジ側でOpenVINOで特徴量を抽出し、それをAzureに送り、ラムダアーキテ
クチャで分析。
オンプレ（エッジ）
Azure
IoT Hub
Stream
Analytics
Power BI
など
BLOB /
Data Lake
Databricks
など

9. © 2019 Intel Corporation
9
アイデア⑤
IoT HubとIoT Edgeを連携させて、OpenVINOのアップデートを各デバイスへ自
動反映
オンプレ（エッジ）
Azure
IoT Edge
IoT Hub

10. © 2019 Intel Corporation
10
アイデア⑥
Botなどのバックエンドで自然言語認識エンジンとして使う。
Azure
Bot Service
BERT

11. © 2019 Intel Corporation
11
クラウド上でOpenVINOを使用する際の考慮事項
OpenVINOの使用前後でどの程度性能が向上したかが含まれると尚良し。
Azure VM
F16s_v2
Azure VM
F4s_v2
Before After

12. © 2019 Intel Corporation
12
ご参考までに．．．
• Tokyo 2020 Innovation Challenge
• https://tokyo2020.org/jp/get-involved/event/oic/

13. © 2019 Intel Corporation
13

14. ありがとうございました