エクテックカジュアル勉強会 深層学習フレームワーク概要編資料

1. 深層学習フレームワーク
∼概要編∼
株式会社 エクテック

3. Googleが開発したTensorflowよりも
前に存在した、2007年⽣まれの
当時唯⼀の深層学習フレームワーク
現在は開発中⽌となって以降
完全沈黙してしまった()
⼀応、継続してメンテナンスがされている
テアノ

5. テンサーフロー
テンソルフロー

6. テンサーフロー
テンソルフロー
『テンソル』
数学で⽤いられる⽤語で、次元を表現するもの
0階の
テンソル
1階の
テンソル
2階の
テンソル
3階の
テンソル

7. TensorFlow
機械学習向けに開発された
エンドツーエンドのオープンソース
プラットフォーム
(公式ドキュメント)

8. TensorFlow
Kerasとともに
深層学習フレームワークを構成する

9. 有名どころの深層学習⼿法を
⼿軽に試すことができる
Convolutional Neural Network,
Recurrent Neural Network,
Long Short Term Memory(LSTM),
Deep Convolutional Generative Adversarial Network
(DCGAN), …etc

10. ドキュメントも豊富
そして、モデルカスタマイズも容易

12. シーエヌティーケー
Microsoftが公開した
Deep Learningフレーム
⾼速演算を売りにしている
※Tensorflowは、並列演算は⾃分で
カスタマイズしないといけないので⾯倒

13. Speed & Scalability:
他のディープラーニング開発ツールよりも
速く学習・実⾏できる
Commercial-Grade Quality:
洗練されたアルゴリズムで構築され、巨⼤な
データセットでも信頼性のおける製品を構築できる
Compatibility:
簡単に利⽤可能であり、
⾃⾝でアルゴリズムをカスタマイズできる

15. ケラス
“Tensorflow”, “theano”, “CNTK”を
より簡易なコードで動かせるように
より簡単にモデルを構築できるように
⽤意されたAPI

16. ケラス
深層学習モデルを実装する際に
ユーザフレンドリー
+
フレームワークの組み合わせ

18. カフェツー
前⾝Caffeがあり、Facebookが引継ぎ
2017年にCaffe2をリリースしたものの
MicrosoftとのONNXプロジェクトで
2018年4⽉にPyTorchへ吸収された

20. パイトーチ
Facebookがメンテナンスしている
Torchという深層学習フレームワーク
Pythonでも扱えるようにしたもの
+
フレームワークの組み合わせ

21. パイトーチ
PyTorchがあれば、下記のフレーム
ワークと同様に簡単にモデル構築可能
+
フレームワークの組み合わせ

22. パイトーチ
他のフレームワークよりも
“可読性(わかりやすさ)”が⾼い
(と⾔われている)
⽇本語のドキュメントがやや少なめなので
初学者にはハードル⾼めではあるものの、
⼈気は、急上昇中

24. チェイナー
⽇本が誇る深層学習フレームワーク(だった)
IoT分野で深層学習フレームを研究開発していた
株式会社Preferred Networksが2014年にスピンアウトした
⽇本語ドキュメントが豊富で、
それなりのモデルを構築できたのだが…,
如何せん⽞⼈向けであった

25. チェイナー
2019年12⽉5⽇
Facebookが主導して開発している
PyTorchに順次移⾏すると発表
Deep Learningを⼿軽に開発できる
先駆けとして、⼀時代を築いた
実は、PyTorchはChainerの影響を⼤きく受けている
しかし、結局はGAFAには勝てなかった？？⾟い

27. エムエックスネット
Amazon Web Service,
Microsoft Azure
これらパブリッククラウドに
早くから認められた深層学習フレーム

28. エムエックスネット
とにかくサポートする⾔語が幅広い
インターフェースが広い！
C ++、Python、Julia、Matlab、JavaScript、
Go、R、Scala、Perl、Clojure, ...etc
つまりこれだけ多くのユーザを想定して開発され
特に、開発⾃体も積極的に継続されている

29. エムエックスネット
Tensorflow → Python、C / C ++、Java
Go、JavaScript、R、Julia、Swift
Keras → Python, R
CNTK → Python、C ++、BrainScrip
Caffe → Python、MATLAB、C ++
PyTorch → Python、C ++、Julia
Chainer → Python
※他フレームとの
インタフェース⽐較
theano → Python

30. 2013
20152015 2015
2018
2016
2015
2007
2017
2019
2016

31. 以上、概要編でした。

32. 深層学習フレームは
まだいくつか他にありますが
Pythonを中⼼に考えれば
以上になります。

33. Demo⽤に、余⼒あれば
Notebookで動くコードを
今後、⾒ていきます。

34. EoF