Recommandé
Contenu connexe
Tendances
Tendances (20)
Similaire à Study Group of NIPS2017 presented by webfarmer.ltd
Similaire à Study Group of NIPS2017 presented by webfarmer.ltd (20)
Plus de WEBFARMER. ltd.
Plus de WEBFARMER. ltd. (20)
Dernier
Dernier (9)
Study Group of NIPS2017 presented by webfarmer.ltd
- 6. 本日の予定 １）Triple-GANの実装とその周辺（大政） ２）Gated Recurrent Convolution Neural Network for OCR（大政） ３）Cycle-GAN（大川） ４）Attention is All You Need（下村）
- 7. Triple-GANとは 論文 C. Li, et. al. Triple Generative Adversarial Nets. In NIPS, 2017. 著者らのコード https://github.com/zhenxuan00/triple-gan taki0112氏のTensorflowを用いたCifar10での学習コード https://github.com/taki0112/TripleGAN-Tensorflow 私のTensorflowを用いたMNISTでの学習コード https://github.com/masataka46/tripleGAN 私のChainerを用いたMNISTでの学習コード https://github.com/masataka46/tripleGAN_chainer
- 9. 元祖GANsのしくみ Xl Xg R 元祖 GANs ノイズによって異なる画像を生成する Ian Goodfellow, et. al. Generative adversarial nets. In NIPS, 2014.
- 10. Conditional-GANのしくみ Xl R ３ ３ ３ Conditional-GAN ラベルを一緒に入力し、そのラベルの画像を生成させる M. Mirza and S. Osindero. Conditional generative adversar- ial nets. arXiv preprint arXiv: 1411.1784, 2014 Discriminatorは入力された画像とラベルのペアが real なものか、生成され たものかを判別する
- 11. Conditional-GANの問題点 Xl R ３ ３ ３ 例えば Discriminator に と３を入力した時に Discriminator が生成され た画像とラベルのペアと判定したとする。 これは３っぽい画像だけど本物っぽくないスタイルなので real でないと考 えたのか・・・・ あるいは本物っぽいスタイルだけど３でなく８と考えたからそう判定したの だろうか・・・ Conditional-GANの問題点
- 12. AC-GANのしくみ Xl R ３ ３ ３ AC-GAN ラベルも推定させ、学習させる A. Odena, et. al. Conditional Image Synthesis with Auxiliary Classifier GANs. arXiv: 1610.09585v4 DiscriminatorもGeneratorもクラスを判別できるように学習する 1〜9 Generator： Discriminator：
- 15. Triple-GANのしくみ そこで Triple-GAN では新たに Classifier を設ける ３ ３ ３ ３
- 16. Triple-GANのしくみ ① Classifier でラベルを識別する →これにより Classifier の識別性能はどんどん上がるだろう。。。 ３ ３ ３ ３ Classifier にラベルの存在する画像を入れた場合の流れ 出力と正解ラベルから教師あり学習をする
- 17. Triple-GANのしくみ ② Classifier にラベルなしの画像も入れ、ラベルを推論させる →データセットが大幅に増やせる ３ ３ ３ ３ ラベルの無い画像を Classifier に入れた場合の流れ Classifier でラベルを推論し、それを Discriminator に渡す
- 18. Triple-GANのしくみ ③ Classifier に Generator で生成した画像を入れる →データセットが更に増やせる ３ ３ ３ ３ Generator で生成した画像を Classifier に入れた場合の流れ 教師あり学習をさせる
- 19. DA-GANのしくみ こんな感じ？（まだちゃんと読んでません） ３ ３ ３ ３ T.Tran, et. al. A Bayesian Data Augmentation Approach for Learning Deep Models.
- 20. Triangle-GANのしくみ これもまだちゃんと読んでません Z.Gan, et. al. Triangle Generative Adversarial Networks. arXiv:1709.06548v2
- 22. Triple-GANの学習方法
- 23. 学習方法① Generator Generator は adversarial な学習のみ。 ３
- 24. 学習方法② Discriminator Discriminator は３種類の流れに対する adversarial な学習。 ３
- 25. 学習方法③ Classifier Classifier は推論したラベルに関する adversarial な学習、real 画像に対す る教師あり学習、Generator で生成された画像に対する教師あり学習 ３
- 26. 学習のポイント 学習がうまくいくポイントは となること ３ p Xl, Xl( )= p Xg, Xg( )= p Xc, Xc( )
- 27. Triple-GANの学習結果
- 29. 学習結果 Generator で生成された画像。 各列は同一のノイズ z 、各行は同一のラベル y それっぽい画像が生成されている
- 30. 学習結果 Chainer で作成したコードによる学習結果。 Generator から生成された画像。 各列は同一のノイズ z 、各行は同一のラベル y 学習回数１回 学習回数１０回 学習回数５００回
- 31. 学習結果 学習速度の比較 同じ半教師学習である Improved GAN より収束が早い 学習回数１０回 T. Salimans, et. al. Improved techniques for training GANs. In NIPS, 2016.
- 32. 実装のポイント
- 33. Chainer で実装する際のポイント まず Discriminator を学習させる場合を考える ３
- 34. Chainer で実装する際のポイント お決まりの cleargrads() で Discriminator に溜められた勾配をクリアにする。 ３
- 35. Chainer で実装する際のポイント backward() で Discriminator の Loss を起点に勾配を計算する ３ →Generator、Classifier の勾配も計算される
- 36. Chainer で実装する際のポイント update() で Discriminator の重みのみ更新する ３
- 37. Chainer で実装する際のポイント 次に Classifier を学習させる。Disciriminator からの不要な勾配があるの で、これを消す。 ３
- 38. Tensorflow で実装する際のポイント Discriminator のみを学習させる場合、var_list に対象のパラメータを列挙 する ３
- 40. Tensorflow での学習結果 Tensorflow で作成したコードによる学習結果。 Generator から生成された画像。 各列は同一のノイズ z 、各行は同一のラベル y 学習回数５００回 学習回数１０００回 ノイズを変えてもラベルを変えても全て同じものが出力される しかも学習回数によってラベルは変わってくる・・・・なぜ？？
- 41. Triple-GAN の改良案
- 42. 学習のポイント（再掲） 学習がうまくいくポイントは となること ３ p Xl, Xl( )= p Xg, Xg( )= p Xc, Xc( )
- 43. Triple-GAN の改良案（１） 現状では Generator から Classifier への経路だけ誤差逆伝播してない ３ ココ
- 48. Triple-GAN の改良案（２） α = 0.05 とした学習結果 Generator から生成された画像 α = 0.5 よりは性能が劣る。 最適な α とは？？ 学習回数１回 学習回数５０回
- 49. Triple-GANのまとめ l Triple-GANはGenerator と Discriminator に加えて Classifier を導入 した l これにより半教師あり学習が可能となった l 学習後の Generator はこれまでのモデルよりリアルな画像を生成し た l 学習後の Classifier はこれまでのモデルより識別性能が上がった l このしくみは特に少ない教師データで学習する際に威力を発揮する