Recommandé
Contenu connexe
Tendances
Tendances (20)
Similaire à 特徴パターンを用いた機械学習の説明手法 (JSAI2019)
Similaire à 特徴パターンを用いた機械学習の説明手法 (JSAI2019) (20)
特徴パターンを用いた機械学習の説明手法 (JSAI2019)
- 2. • 研究背景 • 分類問題における解釈性/説明性 • 分類モデルの予測結果への説明 • 先行研究 • 提案手法 • 計算機実験 • まとめ
- 3. 機械学習の普及 • スマートフォンの顔認証システム • スマートスピーカーの話者識別 などなど．．． 機械学習モデルのブラックボックス化 • 高い識別能力をもつ一方，モデルが複雑化 • モデルがブラックボックス化し，モデルの結論の根拠が説明できない • 医療，司法などの説明責任が求められる分野への応用が困難 研究背景 機械学習に対して，解釈性・説明性が求められている 解釈可能 / 説明可能な機械学習として研究が活発化 1
- 4. • 解釈性・・・人間が理解できる挙動の分類モデルを構築（例：決定木，ルールモデル） • 説明性・・・ブラックボックスな分類モデルの結論の根拠となる特徴を予測 分類問題における解釈性/説明性 分類モデル𝑓 例：CNN 入力： インスタンス𝑥 出力： 𝑓(𝑥) 𝑥の予測クラス ガチョウ (𝑝 = 0.96) 本研究では説明性について考える 2
- 5. • 研究背景 • 先行研究 • Local Interpretable Model-agnostic Explanations (LIME) • 解釈可能なデータ表現 • LIMEの問題点 • 提案手法 • 計算機実験 • まとめ
- 6. • 分類モデル𝑓がインスタンス𝑥のクラスを予測する際の根拠となる特 徴の予測 Local Interpretable Model-agnostic Explanations (LIME) LIME 分類モデル𝑓 (例：CNN, SVM) 説明がほしい インスタンス 𝑥 特徴 重要度 1 2 3 4 5 6 入力 出力 3
- 7. • ブラックボックスな分類モデルの決定関数 (赤と 青の境界線) を 線形モデル(破線) で近似 𝑔 𝐱 = 𝐰⊤ 𝐱 • 線形モデルは近傍のデータを用いて学習 • 線形モデルの重みから特徴の重要度を測る LIME LIMEの特長 • インスタンスの近傍で分類モデルを近似 (Local Interpretable) • 分類モデルの入出力関係だけから線形モデルを構築 → モデル依存性がない (Model-agnostic) 𝑔 4
- 8. 解釈可能なデータ表現 LIMEでは，インスタンス𝑥をバイナリベクトル𝐱に変換して扱う． • 𝑥 → 𝐱 = (1, 1,1, . . . , 1) d次元の1ベクトル • 𝐱′ ← 𝐱の1の要素をランダムに0に変換 • 𝑥′ ← 𝐱′ = (0,0,1, … , 1) d次元の{0,1} ベクトル • 𝑥′: 𝑥の近傍インスタンス • { 𝐱 𝐢 ′ , 𝑓 𝑥𝑖 ′ : 𝑖 = 1, … , 𝑁}: 訓練データ バイナリベクトルへの変換方法 • 数値データ • 数値を区間化する • 画像データ • 領域分割によってバイナリデータに変換 例：スーパーピクセル による領域分割 5 画像の場合の𝑥′ 0に対応する箇所は 黒塗り化
- 9. LIMEの説明： 𝐰⊤ 𝐱 （線形モデルの重み=特徴の重要度） • 個々の特徴の重要度はわかるが，特徴の組み合わせ的な重要度は測れない． • 重要な特徴だけからなるインスタンスが必ずしも元のインスタンスと同じクラスに 分類されるとは限らない． LIMEの問題点 特徴 重要度 1 2 3 4 5 6 6 ← 2羽のダチョウの画像に対す るLIMEの説明 この画像を再度，CNNに入力す ると，ペーパータオルとして分類 される．
- 10. • 研究背景 • 先行研究 • 提案手法 • 重要な特徴パターンの定義 • 極小パターンの探索 • 複数の極小パターンの探索 • 計算機実験 • まとめ
- 11. 提案手法 記法 • 𝑑 = {1, … , 𝑑}：特徴 • 𝑒 ∈ 2[𝑑] ∖ ∅：特徴パターン • 𝑥 𝑒：パターン𝑒に対応するインスタンス • 𝑓 𝑥 ∼ 𝑓 𝑥 𝑒 ：𝑓が𝑥と𝑥 𝑒を同じクラスだと分類する 予測の根拠となる特徴の組み合わせがわかる説明手法の提案 • 複数の重要な特徴パターン（特徴の集合）を用いて説明 • 重要な特徴パターンから，予測結果を再現できる説明 7 LIMEの解釈可能な表現に対応
- 12. 重要な特徴パターンの定義 「𝑓が𝑥の予測クラスの導出に使う必要最低限な特徴からなるパターン」 を重要な特徴パターンとし，極小パターンと呼ぶ → 提案手法をMinimal Pattern LIME (MP-LIME) と呼ぶ 極小パターン𝒆 𝐦𝐢𝐧の定義 特徴パターン𝑒のうち，𝑥 𝑒が𝑥と同じクラスに分類され，𝑒のいずれか ひとつの特徴を取り除いたインスタンス𝑥 𝑒∖ 𝑖 が，𝑥と異なるクラスに 分類されるもの． 𝑓(𝑥 𝑒min ) ∼ 𝑓(𝑥) ∀𝑖 ∈ 𝑒min, 𝑓(𝑥 𝑒min∖ 𝑖 ) 8
- 13. 極小パターンの探索 1. {1, … , 𝑑}を初期状態として，近傍パターン 𝑒 ∖ 𝑖 をモデル𝑓で評価 • 𝑓(𝑥 𝑒∖ 𝑖 )を計算 2. 近傍パターンのうち，最も評価値の高いパ ターンを次の状態として，再度，近傍パ ターンを評価 • 評価値：確率や決定関数値などの出力 3. 評価パターン𝑒が極小であるとき，𝑒を出力 𝑓(𝑥 𝑒 ) ∼ 𝑓(𝑥) ∀𝑖 ∈ 𝑒, 𝑓 𝑥 𝑒∖ 𝑖 赤枠：𝑥と異なるクラスに分類 青枠：𝑥と同じクラスに分類 𝑑 = 4の場合 9
- 14. 複数の極小パターンの探索 • 極小パターンは複数個存在しうる • 複数の特徴パターンが，予測に影響 している場合には，ひとつの極小パ ターンの提示では不十分 → ただし，全部見つけるのは困難．全特 徴パターンは2 𝑑 通りある • そこで，極小パターンを 𝐿個見つける まで探索を行う． → 𝐿 ∈ ℕはパラメータ赤枠：𝑥と異なるクラスに分類 青枠：𝑥と同じクラスに分類 10
- 15. 複数の極小パターンの探索 • 極小パターンになりえないパターンを探索 空間から削除する． 𝑒min ⊂ 𝑒 • 探索空間のなかで，次に評価値の高いパ ターンから，再度探索を行う． • 既に評価したパターンは評価しない． • 最大L個の極小パターンを説明として出力 11
- 16. 複数の極小パターンの探索 • 極小パターンになりえないパターンを探索 空間から削除する． 𝑒min ⊂ 𝑒 • 探索空間のなかで，次に評価値の高いパ ターンから，再度探索を行う． • 既に評価したパターンは評価しない． • 最大L個の極小パターンを説明として出力 11
- 17. • 研究背景 • 先行研究 • 提案手法 • 計算機実験 • 説明能力の定量評価 • 画像分類への応用 • まとめ
- 18. 計算機実験 実験内容 • 説明能力の定量評価 • 画像分類への応用 先行研究のLIMEと提案手法の MP-LIMEの説明結果の比較 実装 • プログラミング言語：Python 3.6 • ライブラリ：numpy, scipy, scikit-learn • 計算機仕様 • OS: Ubuntu 18.04 • CPU: Intel Core i7-6700 (3.40 GHz) • RAM: 8.0 GB 12
- 19. 説明能力の定量評価 （設定） 実験概要 • レビューデータ (book, DVD) の評価 (良い/悪い) を予測する決定木を構築 • レビューデータはWord-One-Hot表現でベクトル化 • 予測にどの特徴を用いるかを説明器で予測 評価指標 Recall = |𝑇 ∩ 𝑃| |𝑇| Precision = |𝑇 ∩ 𝑃| |𝑃| • T={実際に予測に寄与した特徴}，P={説明器が予測した特徴} Time = 1つのインスタンスの説明にかかる時間[sec] パラメータ： LIME：𝑁 = 10000 (近傍データ数), MP-LIME: 𝐿 = 5 13
- 20. 説明能力の定量評価 （結果） LIME MP-LIME Book 19.03 3.87 DVD 18.26 2.38 Recall Precision Time [sec] LIME MP-LIME Book 0.115 0.750 DVD 0.109 0.715 LIME MP-LIME Book 0.922 0.869 DVD 0.924 0.878 RecallはLIMEがやや高い Recallが高い → 実際に使われた特徴を予測できている PrecisionはMP-LIMEが高い Precisionが高い → 予測した特徴が実際に予測に使われている MP-LIMEが高速 14
- 21. 画像分類への応用 （設定） • 左の画像を画像分類モデル （Inception-v3）で識別． • ガチョウとして識別（𝑝 = 0.96） • スーパーピクセルで領域分割 して解 釈可能な表現として扱う (𝑑 = 40) • 𝑝goose > 0.2ならば，ガチョウと識別さ れたとみなす． 𝑓 𝑥 𝑒 ∼ 𝑓 𝑥 ⇔ 𝑝goose > 0.2 15
- 22. 画像分類への応用 （結果） • ２羽のガチョウがそれぞれ極小パ ターンとして出力されている． • 複数の特徴パターンが予測に影響して いる場合でも，それぞれのパターンを検 知できる． • 各パターンがそれぞれガチョウとして 識別される． • 極小パターン1：𝑝 = 0.40 • 極小パターン2：𝑝 = 0.56 ← MP-LIMEの説明 LIMEの説明 → 16
- 23. • 研究背景 • 先行研究 • 提案手法 • 計算機実験 • まとめ
- 24. まとめ • 複数の極小パターンを用いた説明手法の提案 • 予測の根拠となる特徴パターンを提示できる． • 複数の特徴パターンが予測に寄与している場合でも対応できる • 説明能力の定量評価では，Precisionの改善と，計算時間の高速化 を確認 • 画像分類への応用での有効性の検証 17