Contenu connexe
Similaire à 190602 benchmarking neural network robustness to common corruptions and perturbations (20)
190602 benchmarking neural network robustness to common corruptions and perturbations
- 2. 自己紹介
• 名前︓
Ø 藤井 亮宏(アキヒロ)
• 所属︓
Ø 株式会社 エクサウィザーズ@京都オフィス
• 仕事内容
Ø データ解析
Ø Deep learningとか使って⾊々(画像、時系列、医療
etc…)
@akihiro_akichan
論⽂の⼀⾔解説とかしてます。
- 21. 頑健性向上に効果があった手法2
Multi Scale Networks
• 様々な⼤きさにおける情報を使うネットワーク
• Multi Grid NetworksとMSDNetはResNet-50に⽐べて⼤きく
改善した。
Multi Grid Networks
改善効果
https://arxiv.org/pdf/1611.07661.pdf
https://arxiv.org/pdf/1703.09844.pdf
MSDNet
※ただし摂動に対する改善効果は薄い
- 22. 頑健性向上に効果があった手法3
Feature Aggregation and Larger Networks
• 特徴量を集約するネットワーク、⼤規模なネットワークが良い
• 特徴量を集約するResNeXt・DenseNetは改善効果が⼤きい
• 摂動に対しても強く、ResNet50→ ResNeXt101でmFDが
58.0%→43.2%、mT5Dが78.3% →65.9%に改善
ResNeXT
改善効果
https://arxiv.org/abs/1608.06993
DenseNet
https://arxiv.org/pdf/1611.05431.pdf
- 24. 頑健性向上に効果がなかった手法
Stability Training
• JPEGの圧縮ノイズを乗せた画像でfine-tuneする。
• mCEが悪化し、mFRが少しだけ改善(58%→57%)という結果
• ImageNet-C, ImageNet-Pは⾊々な汚染・摂動があるため、
JPEG圧縮ノイズだけでは対応できなかったと著者らは推測
Image Denoising
• non-local mean Filterで画像で前処理をする
• mCEが悪化(76.7%→82.1%)という結果
• ノイズ以外の重要な特徴を取り除いている可能性あり、著者ら
はと推測
http://opencv.jp/opencv2-x-samples/non-local-means-filter