最近のディープラーニングのトレンド紹介_20200925
•
21 j'aime•9,148 vues
・自己教師あり学習 ・半教師あり学習 ・転移学習 ・メタ学習 ・模倣学習 ・逆強化学習 ・能動学習（Active Learning） について 「概要」、「代表的アルゴリズム名」、 「各内容を学ぶためのおすすめチュートリアル動画」を解説しています 2020年9月25日 理系ナビ DLエンジニアトレーニングプログラム
Recommandé
Contenu connexe
Tendances
Tendances (20)
Similaire à 最近のディープラーニングのトレンド紹介_20200925
Similaire à 最近のディープラーニングのトレンド紹介_20200925 (20)
Plus de 小川 雄太郎
最近のディープラーニングのトレンド紹介_20200925
- 1. ディープラーニングのトレンドや課題 （※本スライドは公開されます） 電通国際情報サービス（ISID） X（クロス）イノベーション本部 AIテクノロジー部 AIトランスフォーメーションセンター 小川 雄太郎 理系ナビ DLエンジニアトレーニングプログラム（2020年9月25日）
- 4. 4 自己紹介01
- 5. 5 小川 雄太郎 出身：兵庫県 西宮市 経歴：理論神経科学の分野で博士号を取得、ポスドク後、ISIDに入社 業務：AI製品の開発と、様々な業界の企業様のAI系IT案件のリード 兼職：日本ディープラーニング協会 委員（G検定・E資格等の推進） 、 早稲田大学 非常勤講師、執筆 出版： 詳細：https://github.com/YutaroOgawa/about_me Twitter：https://twitter.com/ISID_AI_team
- 6. 6 DLのトレンド02
- 8. 8 DLのトレンド [1] デモページの最下部「MNIST」で手書き文字の認識 [2] デモページの上から3番目「Yolo」で自分のローカルにある画像をアップロード を試してみてください https://microsoft.github.io/onnxjs-demo/#/ まずは、DLの基本的な技術にふれ、遊んでみましょう
- 10. 10 DLのトレンド そもそもトレンド情報の調べ方 Twitter、Qiita、Medium等で気になる人をフォローしたり、記事検索１ メルマガで毎週のトピックを収集（以下3つで十分） ・[日本語] Weekly Machine Learning：https://www.getrevue.co/profile/icoxfog417/ ・[日本語] Weekly Kaggle News： https://www.getrevue.co/profile/upura ・[英語] Deep Learning Weekly： https://www.deeplearningweekly.com/ ２ 学会参加や論文（arXiv）での新発表を追う ・Arxiv Sanityのtop recentを確認： http://www.arxiv-sanity.com/top ・Papers With Codeを確認： https://paperswithcode.com/ ３ ベンダーのカンファレンス（Microsoft Build等）、Gartner（ガートナー）など リサーチ会社のレポート、日経xTechなどの技術雑誌 ４
- 11. 11 DLのトレンド 画像系 引用: https://paperswithcode.com/ Paper with Codeで、トレンドやSOTA論文(state of the art≒最高性能)を確かめる
- 12. 12 DLのトレンド 画像系 引用: https://paperswithcode.com/ Paper with CodeのBrowse State-of-the-Artで最近の状況を調べる （タスクごとに整理されています）
- 19. 19 DLのトレンド 自然言語処理系 BERTの構造は？ [1] それまで自然言語処理系ではRNN（リカレントニューラルネットワーク）、 LSTMやGRU（Gated Recurrent Unit）がベースネットワークに使われてきた [2] BERTの出現で「Self-Attentionによる重み付けフィルタ」のモジュール、 Transformerが有用となった ※BERTではTransformerがベース ※Self-AttentionネットワークはCNNやRNNのような感じで、SANと呼ばれます [3] 英語圏では近年、人が書いたのかAIが書いたのか、もう見分けがつかない文章を 作れる自然言語処理モデル（GPT、GPT-2、GPT-3）が構築された。これらもSAN のトランスフォーマーベース。 [4] とはいえ、RNN系の勉強の意味がないわけではないので注意！
- 21. 21 DLのトレンド 新たな学習概念の登場 引用: https://active.nikkeibp.co.jp/atcl/act/19/00140/030200004/ [1] 自己教師あり学習 （Self-Surpervied Learning） 教師あり学習の主にクラス分類問題で、アノテー ションした教師データを使わずに解く手法 (例) Deep Cluster、SeLa SimCLR：Simple Framework for Contrastive Learning of Visual Representations（ヒントンら） BYOL： Bootstrap Your Own Latent （DeepMind） SwAV：Swapping Assignments between Views （FAIR：Facebook AI Research）
- 23. 23 DLのトレンド [1] 自己教師あり学習： ICML 2019 Tutorialがおすすめ 引用: https://sites.google.com/view/self-supervised-icml2019 https://icml.cc/Conferences/2019/ScheduleMultitrack?event=3527
- 24. 24 DLのトレンド 新たな学習概念の登場 引用: https://active.nikkeibp.co.jp/atcl/act/19/00140/030200004/ [2] 半教師あり学習 （Semi-Surpervied Learning） 教師あり学習の主にクラス分類問題で、アノテー ションした教師データを少しだけ用意して解く手 法 (例) MixMatch UDA ：Unsupervised Data Augmentation S4L：Self-Supervised Semi-Supervised Learning（Google） SimCLR：Simple Framework for Contrastive Learning of Visual Representations（ヒントンら） （※自己教師あり学習でも使用したモデル）
- 26. 26 DLのトレンド [2] 半教師あり学習：CVPR 2018 TutorialとECCV 2020 Tutorialがおすすめ 引用: https://hbilen.github.io/wsl-cvpr18.github.io/ https://www.youtube.com/watch?v=bXfZFmE8cjo https://www.youtube.com/watch?v=FetNp6f19IM https://hbilen.github.io/wsl-eccv20.github.io/
- 27. 27 DLのトレンド 新たな学習概念の登場 引用: https://active.nikkeibp.co.jp/atcl/act/19/00140/030200004/ [3] 転移学習 （Transfer Learning） 特定のデータセットやタスクで学習したDLネット ワークの重みを、別タスクの初期値に利用するこ とで、小さな訓練データセットでも性能を出す手 法。画像の場合は昔から一般的だったが自然言語 処理や強化学習でもできるようになってきた。 (例) BERT（自然言語処理） 深層強化学習 ・reward shaping approach ・demonstration approach ・policy transfer approach ・inter-task mapping approach ・transfer representation
- 29. 29 DLのトレンド 新たな学習概念の登場 引用: https://active.nikkeibp.co.jp/atcl/act/19/00140/030200004/ [4] メタ学習 （Meta Learning） 複数のタスク（やデータセット）で学習した学習 のプロセスを別のタスクに流用する学習手法。要 はファインチューニングの一種となる。少ない新 規訓練データで学習させるので、few-shot learningやone-shot learningと関連が深い。 強化学習での使用が多い（基本行動ができる方策 ネットワークに複雑な行動を覚えさせたり、新環 境でも既存と同じ行動ができるようにする等）。 (例) MAML：Model-Agnostic Meta-Learning Neural Processes SoftModule
- 30. 30 DLのトレンド [4] メタ学習：2020年4月11日のこのレビュー論文と、ICML 2019 Tutorialがおすすめ 引用: https://arxiv.org/abs/2004.05439 https://sites.google.com/view/icml19metalearning
- 31. 31 DLのトレンド 新たな学習概念の登場 引用: https://active.nikkeibp.co.jp/atcl/act/19/00140/030200004/ [5] 模倣学習 （Imitation Learning） 強化学習において、人が例を見せて、それを参考 に方策ネットワーク（とある状況に置かれたとき、 どの行動を選択するかを決めるネットワーク）を、 を訓練する学習（≒教師あり学習的な強化学習） (例) いろいろ・・・ BC：Behavioral Cloning GAIL：Generative Adversarial Imitation Learning SAIL：Support-weightedAdversarial Imitation Learning RED：Random Expert Distillation DAC: Discriminator Actor Critic PWIL：Primal Wasserstein Imitation Learning
- 32. 32 DLのトレンド [5] 模倣学習：ICML 2018 Tutorialがおすすめ 引用: https://sites.google.com/view/icml2018-imitation-learning/
- 33. 33 DLのトレンド [5] 模倣学習：ちょっと昔の研究ですが、私が好きな研究 （サッカーで、エキスパートだったとしたらどういうポジションをとるのか示す） 引用: https://www.semanticscholar.org/paper/Data-Driven-Ghosting-using-Deep-Imitation-Learning-Le- Carr/f07d49c294754849e1dde2fb1c8f080fea60b95c https://www.youtube.com/watch?v=WI-WL2cj0CA 青■8のディフェンダーは●８の位置にいるべき
- 34. 34 DLのトレンド 新たな学習概念の登場 引用: https://active.nikkeibp.co.jp/atcl/act/19/00140/030200004/ [6] 逆強化学習 （Inverse Reinforcement Learning） 強化学習において、人が例を見せて、それを参考 に報酬ネットワーク（とあるに置かれたとき、ど の程度の報酬がこの先期待できるかを推定する ネットワーク）、を訓練する学習 （≒教師あり学習的な強化学習） (例) MaxEnt：Maximum Entropy Inverse RL GCL：Guided Cost Learning 上記をベースにいろいろとたくさん
- 35. 35 DLのトレンド [6] 逆強化学習：CVPR 2018 Tutorialがおすすめ 引用: https://people.eecs.berkeley.edu/~nrhinehart/irl_cvpr18.html
- 36. 36 DLのトレンド 新たな学習概念の登場 引用: https://active.nikkeibp.co.jp/atcl/act/19/00140/030200004/ etc. [7] 能動学習 （Active Learning） 教師あり学習の一種。少ない教師データからモデ ルを構築し、そのモデルでの推論結果が曖昧で、 人間の正しい答えが欲しいデータを、モデルが人 間に提示し、人間が答えとなる教師ラベルを与え る。そしてデータが追加された訓練セットでさら に良いモデルを構築、を繰り返す。アノテーショ ン作業を減らせるHuman in the loopな学習手法。 (例) GAAL：Generative Adversarial Active Learning ASAL：Adversarial Sampling for Active Learning VAAL：Variational Adversarial Active Learning LLAL：Learning Loss for Active Learning
- 37. 37 DLのトレンド [7] Active Learning：ICML 2019 Tutorialがおすすめ 引用: https://icml.cc/Conferences/2019/ScheduleMultitrack?event=4341 https://www.youtube.com/watch?v=_Ql5vfOPxZU
- 38. 38 ビジネスの文脈において 「AIって何？」という質問に答えてください ディープラーニングの最新のトレンドを追っていくには、 「深層強化学習」 と 「GAN」 を、理解・実装できないと難しいです
- 42. 42 発展的学習 最近は単純な深層強化学習であれば、GoogleのSAC（Soft Actor-Critic）がメジャー DQN（15年） 価値反復型。 Q-learningにディー プラーニングを適用 Prioritized Experience Replay（16年） 価値反復型。DQNでメモリバッファー から取り出すサンプルを効率化 Ape-X（18年） 価値反復型。Prioritized Experience Replayに、分散学習＋ Dueling Network+DDQN版 R2D2（18年） 価値反復型。Recurrent Experience Replay in Distributed Reinforcement Learning。 Ape-XにRNNを追加 TRPO（15年） trust region policy optimization。 方策勾配法にエントロピー項を足して、 方策の急激な変化を防ぐ PPO（17年） Proximal Policy Optimization。方策勾配法 にクリッピングを足して、急激な変化を防ぐ。 現在スタンダードに使用されることが多い A3C、A2C（16年） Asynchronous Advantage Actor- Critic。分散学習＋Advantage学習 型Actor-Critic Soft Actor-Critic （19年） Actor-Criticに方策の乱雑さの最大化も目指 させることで、ロバスト性をアップ。現在、 スタンダードに使用されることが多い。 NGU （19年） Agent57 （20年）
- 45. 45 DLの課題03
- 47. 47 DLの課題 引用: https://sites.google.com/view/sac-and-applications https://www.alexirpan.com/2018/02/14/rl-hard.html https://www.alexirpan.com/public/rl-hard/upright_half_cheetah.mp4 https://www.alexirpan.com/public/rl-hard/upsidedown_half_cheetah.mp4 ●暴走系は深層強化学習と深く関連：深層強化学習ではデータを用意しなくても自ら学習できる（ア ルファ碁など）。だが、とあるシチュエーションでどう動くのか、全安全性確認のすべがない・・・ ①SACでロボットが歩き方を強化学習 ②新たな環境（坂や凸凹）にもロバスト ③SACではないが、ロボ が謎の歩き方を強化学習 技術的課題は膨大ですが、社会的課題においては差別・人種・倫理系と暴走系がメイン
- 52. 52 さいごに05
- 53. 53 （再掲）DLのトレンド そもそもトレンド情報の調べ方 Twitter、Qiita、Medium等で気になる人をフォローしたり、記事検索１ メルマガで毎週のトピックを収集（以下3つで十分） ・[日本語] Weekly Machine Learning：https://www.getrevue.co/profile/icoxfog417/ ・[日本語] Weekly Kaggle News： https://www.getrevue.co/profile/upura ・[英語] Deep Learning Weekly： https://www.deeplearningweekly.com/ ２ 学会参加や論文（arXiv）での新発表を追う ・Arxiv Sanityのtop recentを確認： http://www.arxiv-sanity.com/top ・Papers With Codeを確認： https://paperswithcode.com/ ３ ベンダのカンファレンス（Microsoft Build等）、Gartner（ガートナー） などリサーチ会社のレポート、日経xTechなどの技術雑誌 ４ これ
- 55. 55 ITのフルスタック能力 × AI × Biz（ビジネス）スキルでビジネスを創造できる人材へ 電通国際情報サービス（ISID） X（クロス）イノベーション本部 AIテクノロジー部での成長 UVP ・機械学習 アルゴリズム ・統計解析 ・機械学習工学 ・ディープラーニング ・Webシステム構築 ・MLOps ・データ分析基盤構築 ・IoTシステム構築 ・PM、PdM ・デザイン思考（UX/UI） ・ビジネスクリエーション （リーン, ジョブ理論, etc.） ・業界や分野の専門知識 IT技術 Biz AI/データサイエンス フロントエンド バックエンド コンテナ・仮想化 クラウド&インフラ AI/ML アジャイル開発（スクラム）
- 56. 56 ITのフルスタック能力 × AI × Biz（ビジネス）スキルでビジネスを創造できる人材へ 電通国際情報サービス（ISID） X（クロス）イノベーション本部 AIテクノロジー部での成長 今日の話の内容はたった、この部分だけ。 学生を卒業し、社会人になってから、 ビジネスを創っていく人材になるには、 ディープラーニングのスキルに加えて、 BizとITのスキルも磨いていきましょう UVP ・機械学習 アルゴリズム ・統計解析 ・機械学習工学 ・ディープラーニング ・Webシステム構築 ・MLOps ・データ分析基盤構築 ・IoTシステム構築 ・PM、PdM ・デザイン思考（UX/UI） ・ビジネスクリエーション （リーン, ジョブ理論, etc.） ・業界や分野の専門知識 IT技術 Biz AI/データサイエンス
- 57. CONFIDENTIAL 【お問い合わせ先】 ■ 株式会社 電通国際情報サービス AIトランスフォーメーションセンター https://isid-ai.jp/ ■ X（クロス）イノベーション本部 AIテクノロジー部 email: g-isid-ai@group.isid.co.jp