不足するAI人材に対する「パソナテックの人材育成ソリューション」

©2019 Pasona Tech, Inc. All Rights Reserved.
不足するAI人材に対する「パソナテックの人材育成ソリューション
」
エッジAIの現状とパソナテックの取り組み
株式会社パソナテック
IoEソリューション事業部 AIプロダクトグループ
Qumicoプロダクトマネージャ
夏谷
2019/9/13

2
目次
自己紹介
エッジAIの開発の業界動向
Qumicoの紹介
パソナテックの取り組み

自己紹介
3

自己紹介
4
株式会社パソナテック
IoEソリューション事業部 AIプロダクトグループ
夏谷実
FPGAやLSIの画像処理から、Deep Learningの世界に入る。プログラミングが好き
昨年よりQumicoのプロダクトマネージャに就任。大阪と東京と半々くらいで、昨年は名古屋にも通う
TensorFlow Users Group KANSAI

エッジAI開発の業界動向
5

第四次産業革命
ロボット AI IoT
国家戦略としてAI推進を図るも、絶対的な人材不足という現実
若年層の人口
減少
過熱するAI
人材争奪戦
必要なスキル
が膨大
エッジAIにおける課題

エッジAIとは
7
よくあるAIを使ったサービス例
どこかにあるGPU搭載サーバー
日：エッジAIの技術に注目しています。
英：We are focusing on edge AI technology.
AI
同じようなアーキテクチャ
・画像の仕分け
・商品の推薦
・買い取り価格の見積もり
・商品のカテゴリー分け

エッジAIとは
8
https://www.irasutoya.com/2014/10/blog-post_185.html
エッジAIのイメージ
AI AI
不審者
を発見
部屋に人が多いから
出力を上げよう
AIを処理するサーバーが無く、それぞれの装置がAIを搭載する。
誰もいないから風
力を落として節電

なぜエッジAIが必要なのか
9
物体検出
・・・・・
・・・・・
問題点
・レイテンシー
・通信量
・消費電力
サーバー AI
全ての映像をサーバーに送るアーキテクチャ

なぜエッジAIが必要なのか
10https://www.irasutoya.com/2014/10/blog-post_185.html
・・・・・
・・・・・
サーバー
エッジAIを使ったアーキテクチャ
AI AI AI AI AI
物体検出
物体検出した結果だけを送信
・レイテンシー ◎
・通信量〇
・消費電力〇

エッジAIを使う理由
・自動運転等、応答速度が非常に重要なケース
・コストが重要なケース
・通信環境が悪くても動く必要があるケース
・プライバシーを守りたいケース
11
世の中にAIが普及するにつれ、エッジAIの重要性も増えていく

国内のAI政策
12
2017/3/31公正取引委員会データと競争政策に関する検討会松尾先生
https://www.google.co.jp/url?sa=t&rct=j&q=&esrc=s&source=web&
cd=1&cad=rja&uact=8&ved=0ahUKEwic3O6Czp7VAhWDe7wKHT
tpBvMQFggnMAA&url=http%3A%2F%2Fwww.jftc.go.jp%2Fcprc%
2Fconference%2Findex.files%2F170606data01.pdf&usg=AFQjCN
E22edhkjcl-q3mswvN4vfgduR52w

世界中がエッジAIに参入
13
https://github.com/basicmi/AI-Chip
IC Vendors
Intel, Qualcomm, Nvidia, Samsung, AMD, Xilinx, IBM, STMicroelectronics, NXP, Marvell, MediaTek, Hi
Silicon, Rockchip, Renesas Electronics, Ambarella
Tech Giants & HPC Vendors
Google, Amazon_AWS, Microsoft, Apple, Aliyun, Alibaba Group, Tencent Cloud, Baidu, Baidu
Cloud, HUAWEI Cloud, Fujitsu, Nokia, Facebook, HPE, Tesla, LG
IP Vendors ARM, Synopsys, Imagination, CEVA, Cadence, VeriSilicon, Videantis
Startups in China
Cambricon, Horizon Robotics, Bitmain, Chipintelli, Thinkforce, Unisound, AISpeech, Rokid, NextVPU,
Canaan, Enflame, Eesay Tech, WITINMEM, TSING MICRO, Black Sesame
Startups Worldwide
Cerebras, Wave Computing, Graphcore, PEZY, Tenstorrent, ThinCI, Koniku, Adapteva, Knowm, Mythic,
Kalray, BrainChip, AImotive, DeepScale, Leepmind, Krtkl, NovuMind, REM, TERADEEP, DEEP VISION,
Groq, KAIST DNPU, Kneron, Esperanto Technologies, Gyrfalcon Technology, SambaNova Systems,
GreenWaves Technology, Lightelligence, Lightmatter, ThinkSilicon, Innogrit, Kortiq, Hailo, Tachyum,
AlphaICs, Syntiant, Habana, aiCTX, Flex Logix, Preferred Network, Cornami, Anaflash, Optaylsys, Eta
Compute, Achronix

CloudとEdgeを合わせたFOG
14
Cloud
edge
FOG Computing
edge edge edge
Cloud
エッジAIがホットなトピックになり、新しい言葉も誕生

エッジAIの難しいところ
15
データ
アノテー
ション
量子化
過学習
抑止
データ
水増し
前処理
プルーニ
ング
速度
UP
ハイパーパ
ラメータ
画像処理
フレーム
ワークPython
組込みC
学習環境
構築
データ
収拾
異常値除
去
筐体モデル
選択
サイズ
削減
放熱
アプリ
組込
電力
コスト
結局、全体をできる人がいない
どうすればよい？
エッジの壁

パソナテックの取り組み
16

AI人材不足
17
https://www.kantei.go.jp/jp/singi/tougou-innovation/dai4/siryo1-1.pdf
統合イノベーション戦略推進会議「AI戦略（有識者提案）及び人間中心のAI社会原則（案）について」
平成31年3月内閣府特命担当大臣（科学技術政策）
大学、高専、社会人に対して、
AI教育を強化する
年間25万人のAI人材を育成
組込みがわかるAI人材は
さらに不足している

AI人材不足
18https://www.stat.go.jp/data/jinsui/2018np/index.html
総務省統計局より

パソナテックの取り組み１
19https://www.stat.go.jp/data/jinsui/2018np/index.html
総務省統計局より
パソナテックが若い
優秀層の取り合いに
参加するのは意味が
ない
ボリュームゾーン
の人材に活躍して
もらう
Global人材
＋

50代半導体エンジニアのキャリアシフト(2017年～）
統計
行列
微積分
英語論文
Python
TensorFlow/Caffe 可視化ツール
製品化組込
従来手法
画像処理
組込プログラミング
スケジュール管理
リソース管理
顧客折衝
データ加工
データアノテーション
Deep Learningに必要な莫大なスキルをどうするか
アカデミックな知識業務知識 PM
コーディング能力

統計
行列
微積分
英語論文
Python
TensorFlow/Caffe
可視化ツール
製品化組込
従来手法
画像処理
組込プログラミング
スケジュール管理
リソース管理
顧客折衝
データ加工
データアノテーション
50代半導体
エンジニア
20代、30代
若手
50代の半導体エンジニアと、20代、30代の若手数名でチームを作る

50代半導体
エンジニア
20代、30代
若手
・昔AIにすごく興味があった
・英語論文に出てくる数式に戸惑わない
・お客との調整が得意
・今からPython勉強するのが辛い
・上手く行くかどうか分からない（ので消極的）
・新しいフレームワーク等について行けない
・実際の開発業務自体が難しい（手が遅い）
ベテランエンジニアが苦手なところや、勢
いでやれば良いところを若手が担当

チームビルディング
50代の役割
PM（顧客の折衝、各種管理）
DL基礎の部分（数学、英語）
業務知識
中長期的な課題（違うジャンルの調査など）
20代、30代
コーディング
アノテーション
とりあえずやる
短期的な課題（新しいNN、フレームワーク等）

キャリアシフトを目的としたトレーニング実施
24
受講者数は300名を超えました。
ディープラーニングとは何か？を理解する
ディープラーニングに関する基礎用語を理解する
ディープラーニングによるニューラルネットワークの学習方法を理解する
学習後のニューラルネットワークの性能評価の指標を理解する
学習後のニューラルネットワークの組み込みシステムへの実装フローを理解する
学習後のニューラルネットワークの組み込みシステムへの実装を体験する
ラズベリーパイを使って
実際にディープラーニン
グを動かす

コミュニティの構築
地方の悩み
東京はAIのイベントがあってうらやましいな～
パソナテックの狙い
東京の人が羨むようなイベントをやろう！

コミュニティの構築弊社大阪支店で年に数回行う大規模イベント
毎回100名超え
2018/1/27 LINE様、さくらインターネット様、
Google様、オプティム様にご登壇いただきました。
TensorFlow Users Group KANSAIの立上げ
不定期でハンズオン、ハードウェア勉強回等の開催
2017/12/21 LeapMind様にご登壇いただきました
弊社の発表トピックとして、自社開発のフレームワークによる事例が大好評
他にも、名古屋、京都等で、各種勉強会を開催中
MACHINE LEARNING Meetup KANSAI
「AutoEncoderを使って未知の物体を検出。ニューラルネットワークは
UFOを見つけることができるのか」
2019/03/27

パソナテックの取り組み２（2019年～）
データエンジニアの育成
27
少し寄り道してAutoMLの説明
データエンジニアとは？
データの前処理を中心に、データサイエンティストの指示で、デー
タそのものを扱うエンジニア

Auto MLとは
28
Automated Machine Learningの略
・自動的に機械学習のハイパーパラメータを設定しパフォ
ーマンスを上げる技術。NNアーキテクチャの探索も含む。
・GoogleがCloud上でAuto MLを使えるようにしたのが「
Cloud AutoML」と呼ばれるサービス。Auto MLと言った時
にCloud AutoMLを指すことが多い。
・PFNが公開しているOptuna（オプチュナ）も注目されて
います。

Could AutoMLの実力
29
https://developers-jp.googleblog.com/2019/07/efficientnet-automl-
google.html
画像の識別に関しては、素人では絶対に勝てない
識別
物体検出
だいたい6万円くらいで、2016年末の最先端
(YOLO v2)に近い数字
Cloud AutoMLが対応しているタスクならAutoMLを使いたい。

従来のAI開発体制
30
データサイエン
ティスト
データエンジニア
AIプロジェクトAIプロジェクト AIプロジェクト
データサイエンティストの人数が
AIプロジェクトの個数を制限する。
→人材不足の本質

AutoMLが作るこれからの開発体制予測
31
データサイエン
ティスト
AIプロジェクトAIプロジェクト
Auto
ML
Auto
ML
Auto
ML
Auto
ML
AIプロジェクト AIプロジェクト AIプロジェクト AIプロジェクト
AutoMLが対応してい
ないタスクはデータサ
イエンティストが担当
AutoMLが対応しているタスクは、
AutoMLに入力するデータを用意する
データエンジニアがいれば良い
AIプロジェクトの数が、データサイエン
ティストに依存しないでスケールする。

パソナテックの取り組み２（2019年～）
32
データエンジニアのスキルセットの標準化と育成コースの開発
画像用NNの基礎
画像フォーマットの基礎
画像処理ライブラリ、アルゴリズム
<annotation>
<filename>0001.jpg</filename>
<size> <width>302</width>
<height>402</height>
<depth>3</depth> </size>
<object>
<name>pencilcase</name>
<bndbox> <xmin>100</xmin>
<ymin>100</ymin>
<xmax>261</xmax>
<ymax>186</ymax>
</bndbox>
</object>
</annotation>
物体検出用データオーギュメ
ンテーション
XML、乱数処理、回転、拡大、
縮小、画像の合成
データエンジニア研修基礎編：2019年6月開始
データエンジニア研修実践編: 2019年9月開始
データエンジニア研修応用編：2019年9月開始

Qumicoの紹介
33

Qumicoとは
34
• 目的
– ディープラーニングの学習結果をエッジデバイス向けにC言語変換
• OSレス環境での利用も想定
– 出力：標準C(その他依存のライブラリなし)
– IR：ONNXに準拠
• 弊社内製
• オープンソースとして公開(MITライセンス)
– https://github.com/PasonaTech-Inc/Qumico

構成
35
• フロントエンド
– 各種DLフレームワークの学習モデルをONNXに変換する
– 例：TensorFlowの学習済みモデルをONNXに変換
• バックエンド
– ONNXをC言語に変換する

Qumicoの特徴
36

開発の流れ
37
• 1.学習
– DLフレームワークでの学習(例：TensorFlow)
– モデルを出力
• 2.変換
– モデルをONNXに変換
– ONNXをC言語に変換
• 3.チューニング
– デバイス向けのチューニング
• 4.推論
– アプリへの組み込み
– デプロイ

開発の流れ(例)
38
Qumicoフロントエンド
Qumicoバックエンド
本スライドの写真の作成者不明な作成者は CC BY-SA のライセンスを許諾されています
エッジデバイス
2.変換
1.学習
3.チューニング
4.デプロイ
チューニング
・CPUコア
・SIMD
・GPU
・メモリアライメント
等
学習済みモデル
計算グラフ最適化
TensorFlow
ONNX C

最近のトレンド：AutoMLと量子化
39
• AutoML
– モデリングの自動化
– GCP AutoMLを利用
• 量子化
– 32bit演算を8bit演算で計算(例：float32 => int8)
– エッジデバイス向け高速化
– TensorFlowでQuantization Awareで学習

AutoML・量子化を取り入れた開発の流れ
40
Qumicoフロントエンド
Qumicoバックエンド
本スライドの写真の作成者不明な作成者は CC BY-SA のライセンスを許諾されています
エッジデバイス
2.変換
1.学習
3.チューニング
4.デプロイ
TensorFlow Lite形式に対応量子化対応のONNX ver1.5に対応
学習済みモデル
(TFLite形式)
ONNX
AutoML
C

ベンチマーク
41
• 変更なし(複数のTransposeが追加される)
– 0.28[sec]
• Transposeを削除
– 0.16[sec]
• Softmaxを削除
– 0.065[sec]
– クラス分類で最終OPのSoftmaxであるため、出力ラベルは変化なし
– 前後のDequantize, Quantizeも削除
• 参考：ONNX変換前の推論性能
– A社：0.030[sec]
– 条件：OpenMP有効、Neon有効
– (注：Pythonからの呼び出しのため、厳密なプロファイルではないです)

ベンチマーク
42
0
0.05
0.1
0.15
0.2
0.25
0.3
変更なし Trasnpose削除 Softmax削除 A社
1推論性能[sec]
Qumico(赤)

今後の開発テーマ
43
• 対応ターゲットボードの拡張
• 最適化/高速化の充実
• エッジ学習

まとめ
44

エッジAIの難しいところ
45
データ
アノテー
ション
量子化
過学習
抑止
データ
水増し
前処理
プルーニ
ング
速度
UP
ハイパーパ
ラメータ
画像処理
フレーム
ワークPython
組込みC
学習環境
構築
データ
収拾
異常値除
去
筐体モデル
選択
サイズ
削減
放熱
アプリ
組込
電力
コスト
JOB HUB
育成
Auto
ML
AI/IoT支援
サービス
組込エンジニア
育成
ODM
サービス
エッジAI開発の難しさをトータルでサポートします。

まとめ
46
今後、ますます重要になっていくエッジAIについて、パソナテックは以下
のサービスを提供します。
・データエンジニアの育成
・組込AIエンジニアの育成
・AI/IoT支援サービス
・ODMサービス
・Qumico開発
派遣、委託等、様々な形で開発リソースを提供いたします。
データの収集から、組込機器の開発まで、どのフェーズでもご相談くださ
い。
オンサイトトレーニング可能！

不足するAI人材に対する「パソナテックの人材育成ソリューション」

Recommandé

Recommandé

Contenu connexe

Tendances

Tendances (20)

Similaire à 不足するAI人材に対する「パソナテックの人材育成ソリューション」

Similaire à 不足するAI人材に対する「パソナテックの人材育成ソリューション」 (20)

Plus de Natsutani Minoru

Plus de Natsutani Minoru (20)

不足するAI人材に対する「パソナテックの人材育成ソリューション」

Notes de l'éditeur