5月19日（火）に開催された、NVIDIA Jetson Edge Computing Digital Seminar Special EditionでのNVIDIAの講演 エヌビディア合同会社 インダストリー事業部ビジネスデベロップメントマネージャー 大岡正憲

1. NVIDIA Jetson Edge Computing
Digital Seminar Special Edition
JETSON XAVIER NX
2020/5/19
エヌビディア合同会社
インダストリー事業部 ビジネスデベロップメントマネージャー
大岡正憲

2. 2
NVIDIA JETSON
ソフトウェア デファインド AI エッジコンピューティング プラットフォーム
センサー フュージョン & 演算性能 専門知識、タイム トゥ マーケット
JETSON COMPUTER
エコシステムソフトウェアデファインド
Jetpack SDK ∙ CUDA ∙ TensorRT ∙ TensorFlow ∙ ONMX ∙ ROS
人工知能 コンピュータービジョン
アクセラレーテッドコンピューティング マルチメディア
ジェスチャー認識
物体検出パスプラニング
planning
深度推定
姿勢推定 言語認識
SDK、デザインツール、ライブラリー、GEMs
動作
センシング
解釈
エッジでのAI

3. 3
JETSON
MOMENTUM
500,000
Developers
3,000
Customers
会議システム
ヘルスケア
自律ドローン
交通システム
配達ロボット
倉庫 文教光学外観検査
農業

4. 4
JETSON ファミリー
エッジでの AI から自律動作システムまで
詳細の製品仕様はホームページにて https://developer.nvidia.com/embedded-computing * TX2i: 10-20W
7.5 – 15W*
50mm x 87mm
JETSON TX2 series
1.3 TFLOPS (FP16)
5 - 10W
45mm x 70mm
JETSON NANO
0.5 TFLOPS (FP16)
10 – 30W
100mm x 87mm
JETSON AGX XAVIER Series
11 TFLOPS (FP16)
32 TOPS (INT8)
10 - 15W
45mm x 70mm
JETSON Xavier NX
6 TFLOPS (FP16)
21 TOPS (INT8)
メインストリーム 自律動作システムエントリー
同じソフトウェア

5. 5
JETSON XAVIER NX ディープラーニング性能
 最小の Jetson フォームファクター
 Jetson Nano とピン互換
 小型で同じ消費電力ながら
Jetson TX2 と比較して 10 倍以上の
性能アップ
 ほかの Jetson 製品と同じソフトウェアを
使用可能
Xavier の性能、より低消費電力、より小型、そしてより安く
11 10 15 17 1524 23 33 39 34
317
65
151 146
239
525
275 281
240
439
0
50
100
150
200
250
300
350
400
450
500
550
Classification
Inception V4
(299x299)
VGG-19
(224x224)
Image Processing
Super Resolution
(481x321)
Segmentation
Unet
(256x256)
Pose Estimation
OpenPose
(256x456)
Jetson Nano Jetson TX2
Jetson Xavier NX Jetson AGX Xavier
イメージ/秒(FPS)

6. 6
JETSON XAVIER NX
最大 21 DL TOPS AI 性能
10W | 15W
384 CUDA コア | 48 Tensor コア
6 コア CPU | 8 GB メモリー
45 x 70 mm
NOW SHIPPING!
Xavier のパフォーマンスを Nano のサイズで
世界最小の AI スーパーコンピュータ
https://www.nvidia.com/ja-jp/autonomous-machines/embedded-systems/jetson-xavier-nx/

7. 7
JETSON XAVIER NX モジュール 技術仕様
AI パフォーマンス 21 TOPS
GPU 384 コア NVIDIA Volta GPU と 48 基の Tensor コア
CPU
6 コア NVIDIA Carmel ARM v8.2 64 ビット CPU
6MP L2 + 4MB L3
メモリ
8 GB 128 ビット LPDDR4x
51.2 GB/秒
ストレージ 16 GB eMMC 5.1
消費電力 10 W | 15 W
PCIe 1 x1 (PCIe Gen3) + 1 x4 (PCIe Gen4) 合計 144 GT/秒
CSI カメラ
最大 6 台のカメラ (仮想チャネル経由で 24 台)
14 レーン (3x4 または 6x2) MIPI CSI-2
D-PHY1.2 (最大 30 Gbps)
ビデオ エンコード 2x 4Kp30 | 6x 1080p60 | 14x 1080p30 (H.265 & H,264)
ビデオ デコード
2x 4Kp60 | 4x 4Kp30 | 12x 1080p60 | 32x 1080p30 (H.265)
2x 4Kp30 | 6x 1080p60 | 16x 1080p30 (H.264)
ディスプレイ 2 マルチモード DP 1.4/eDP 1.4/HDMI 2.0
DL アクセラレータ 2x NVDLA エンジン
ビジョン アクセラレータ 7-way VLIW ビジョン プロセッサ
ネットワーキング 10/100/1000 BASE-T イーサネット
機械的構造 45 mm x 69.6 mm 260 ピン SO-DIMM コネクタ

8. 8
JETSON XAVIER NX 技術資料
https://developer.nvidia.com/embedded/downloads#?tx=$product,jetson_xavier_nx

9. 9
JETSON XAVIER NX 開発者キット
19V 45W AC 電源 同梱
マイクロ SD カードでのストレージ
(カードは別売りです）
冷却ファンつき
CSI コネクター x 2
国内各代理店で出荷開始

10. 10
JETSON XAVIER NX 開発者キット 技術仕様
GPU 384 コア NVIDIA Volta GPU と 48 基の Tensor コア
CPU
6 コア NVIDIA Carmel ARM v8.2 64 ビット CPU
6MP L2 + 4MB L3
DLA 2x NVDLA エンジン
ビジョン アクセラレータ 7-way VLIW ビジョン プロセッサ
メモリ
8 GB 128 ビット LPDDR4x
51.2 GB/秒
ストレージ マイクロ SD カード (カードは含まれていません）
消費電力 10 W | 15 W
ビデオ エンコード 2x 4Kp30 | 6x 1080p60 | 14x 1080p30 (H.265 & H,264)
ビデオ デコード
2x 4Kp60 | 4x 4Kp30 | 12x 1080p60 | 32x 1080p30 (H.265)
2x 4Kp30 | 6x 1080p60 | 16x 1080p30 (H.264)
カメラ 2x MIPI CSI-2 D-PHY レーン
コネクティビティ ギガビット イーサネット、M.2 キー E (WiFi/BT), M.2 キー M (NVMe)
ディスプレイ HDMI と DP
USB 4x USB 3.1, USB 2.0 Micro-B
その他 GPIO、I2C、I2S、SPI、UART
機械的構造 103 mm x 90.5 mm x 34 mm

11. 11
JETSON SOFTWARE
工場スマートシティ 物流 ヘルスケア 農業
エコシステム
AI ソフトウェア & サービス
エコシステム
マシン ビジョン カメラ & センサー
エコシステム
システム ソフトウェア & 開発ツール
Jetson
DeepStream SDK Isaac SDK
開発ツール
Computer Vision
VPI
VisionWorks
OpenCV
Sensors
Drivers
Ecosystem
Deep Learning
TensorRT
cuDNN
Multimedia
libargus
Video API
Accelerated Computing
cuBLAS
cuFFT
CUDA-X
CUDA • Linux • RTOS
JetPackSDK

12. 12
JETPACK SDK ソフトウェア
スケーラブルな ソフトウェア デファインド プラットフォーム
April (開発者プレビュー）
June (GA)
2020
SEPT
2016
MAR
2017
MAR
2018
DEC
2018
Jetpack 2.3.x
CUDA 8.0
cuDNN 5.1
TensorRT 1.0
Jetpack 3.0/3.1
+ Jetson TX2
推論性能 2 倍に向上
cuDNN 6.0
TensorRT 2.1
Ubuntu 16.04
Kernel 4.4
Jetpack 3.2/3.3
Deepstream 1.5
TensorFlow
CUDA 9.0
cuDNN 7.0
TensorRT 4.0
Jetpack 4.0/4.1
Deepstream 3.0
+ Jetson AGX Xavier
CUDA 10
TensorRT 5.0
Ubuntu 18.04
Kernel 4.9
MAR/July
2019
Jetpack 4.2.x
Deepstream 4.0
Isaac 2019.1
+ Nano, +TX2 4GB
CUDA 10, TensorRT 5.0
Ubuntu 18.04, Kernel 4.9
Nov/Dec
2019
Jetpack 4.3
Deepstream 4.0
Isaac 2019.3
+ Xavier NX patch
CUDA 10.2, TensorRT 6.0,
Open CV 4.1
Jetpack 4.4
+ Xavier NX Dev Kit
+ クラウドネイティブ
CUDA 10.2
cuDNN 8
TensoRT 7.1
Ubuntu 18.04
Xavier NX
エミュレーションパッチ

13. 13
JETSON ECOSYSTEM
ハードウェア
およびセンサー
ディストリビューション
カメラおよびセンサー ハードウェアおよび設計サービス
ソフトウェアサービスCSP-IOTツール/システムソフトウェアISV
ソフトウェア

14. 14
PARTNER SOLUTIONS - NX SYSTEMS
Leopard Imaging
LI-XNX-BOX-MIPI
Realtimes RTSS-Z509MIIVII Lite NX
Auvidea JNX30 AVerMedia NX213B Diamond Systems
JETBOX-FLOYD-XNX-01
ConnectTech Rudi-NX
ADLINK DLAP-301-JNX AIMobile NC-X1AAEON 8251AI Advantech MIC-710AIX

15. 15
クラウドネイティブがもたらす
エッジでのトランスフォーメーション
AI 推論
さらに複雑に密に
AI 製品ライフサイクル
大規模での開発、デプロイ、管理

16. 16
JETSON クラウドネイティブサポート
より簡単で速いデプロイメント
- 煩雑で時間のかかるビルドやインストールは不要。
アジャイルで容易な開発
- アップデートは特定のモジュールのみ対象、
すべてのシステムをアップデートすることは不要。
スケーラビリティ
- 必要なコンテナーだけを、必要な場所に Push。
ポータブル
- 様々な環境にデプロイでき、テストから量産までの
変更を最小に。
コンシステンシー アクセス ポートフォリオ
- ひとつのアップデートを広く一斉に Push。

17. 17
NGC
イノベーションを加速
NGC は様々な GPU アプリケーションや SDK、
モデルスクリプトなどを最適化された形でコンテナーで提供。
学習済みモデルスクリプト
NGC は学習済みのモデルスクリプトを提供し、
ディープラーニングアプリケーション開発を加速します。
ResNet、SSD、Mask R-CNN、Unet、GNMT、BERT、
Transformer、Tacotron、Waveglow、Jasper etc.
Jetson 向けコンテナ―
L4T Base Container により Jetson 向けに
コンテナー使用可能。
https://ngc.nvidia.com/catalog/all

18. 18
さらに広がる JETSON コンテナー
フレームワーク コンテナー
TensorFlow
Container
PyTorch Container
Machine Learning
Container
Python 3.6 環境で TensorFlow が
インストール済のコンテナー。
Pytorch 3.6 環境で PyTorch と torchvision が
インストール済のコンテナー。
異なる PyTorch バージョンをサポート。
TensorFlow, PyTorch, JupyterLab などのよく使われる
機械学習や、scikit-learn, scipy, Panda などの
データ サイエンス フレームワークを Python 3.6 環境で
インストール済のコンテナー。
L4T_Base
CUDA (マウント済)
TensorRT (マウント済)
フレームワーク
アプリケーション

19. 19
JETSON で構築する CLOUD NATIVE AI
マルチ モーダル AI | マルチ フレームワーク | マルチ AI
Docker Engine

20. 20
JETSON で構築する CLOUD NATIVE AI
マルチ モーダル AI | マルチ フレームワーク | マルチ AI
人物検知
Resnet-18 モデル
姿勢推定
Resnet-18 モデル
視線検知
NVIDIA 顔ランドマークモデル
NVIDIA 視線モデル
顔認識のための MTCNN モデル
Docker Engine
自然言語処理
自然言語処理での言語モデルむけ BERT モデル
言語認識のための Quartznet モデル

21. 21
GTC 2020
オンラインで開催中
https://www.nvidia.com/en-us/gtc/keynote/
JENSEN HUANG’S
GTC 2020 KEYNOTE
Developing Real-time
Neural Networks
for Jetson
[Link]
NVIDIA Tools to Train, Build,
and Deploy Intelligent Vision
Applications at the Edge
[Link]
NVIDIA Jetson:
Enabling AI-Powered
Autonomous Machines
at Scale
[Link]
Designing Products for
Jetson Nano
[Link]
Isaac Sim 2020
Deep Dive
[Link]
700 以上の様々なセッションが無料で視聴可能
https://www.nvidia.com/en-us/gtc/session-catalog/

22. 22
GTC 2020
オンラインで開催中
https://www.nvidia.com/en-us/gtc/keynote/
JENSEN HUANG’S
GTC 2020 KEYNOTE
700 以上の様々なセッションが無料で視聴可能
https://www.nvidia.com/en-us/gtc/session-catalog/GTC 2020 基調講演 振り返りセミナー 開催決定
NVIDIA ENTERPRISE WEBINAR VOL.1
5/14 に実施された GTC 2020 基調講演の発表内容、ハイライトを、60 分に凝縮して日本語でお伝え致します。
日程: 5 月 22 日 （金） 17:00 – 18:00
（申し込み締切：5 月 22 日 13 時まで）
HTTPS://FORMS.GLE/AH6JYZTGNISCGKIDA

23. 23
GTC 2020: JETSON XAVIER NX ウェビナー開催
NX Brings Cloud-Native Agility to Edge AI Devices
Tuesday, May 26 | 10:00 AM - 11:00 AM
(日本時間 5 月 27 日(金) 午前 2 時 – 午前 3 時 )
Speaker: Suhas Sheshadri
NVIDIA Jetson は、AI エッジ デバイスに クライド ネイティブ トランスフォーメーションを
もたらします。Jetson の能力による、複数のコンテナー化したアプリケーションと AI モデル
を同時に実行する詳細なデモをお見せします。
Schedule here:
https://www.nvidia.com/en-us/gtc/session-catalog/?search=S22707
Jetson Xavier NX - Next Leap in Edge Computing
Jetson Xavier NX Developer Kit: The Next leap in Edge Computing
Wednesday, May 20 | 11:30 AM - 12:30 PM
(日本時間 5 月 21 日(木) 午前 3 時 30 分 – 午前 4 時 30 分)
Speaker: Dustin Franklin
本ウェビナーでは、21 TOPS を超える性能をもつ世界最小の組込みエッジ AI スーパー
コンピューターである Jetson Xavier NX についての ディープ ダイブ を行います。
最新の Jetson の発表をご覧ください。
Schedule here:
https://www.nvidia.com/en-us/gtc/session-catalog/?search=S22706

24. 24
JETSON マイクロサイト公開
JETSON の情報のまとめサイトである
マイクロサイトがついに公開。
JETSON やエヌビディアに関する最新情報
に容易にアクセス。
エヌビディアが開催する各種 JETSON
オンラインセミナーも、このサイトから
オンデマンド視聴が可能になります。
今後、皆様のお役に立つ JETSON 情報を
マイクロサイトから発信していきますので、
ご期待ください。
https://monoist.atmarkit.co.jp/mn/special/mo200503/index.html