Recommandé
Recommandé
Contenu connexe
En vedette
En vedette (20)
パターン認識の資料
- 1. パターン認識の資料
- 3. パターン認識とは • パターンとは「型」、「類型」 • 認識とは「人間が物事を知るはたらき、およびその内容」 ∴パターン認識とは「物事の類型を知るはたらき、およびその内容」 工学的には、与えられた「パターン」を特定（既知）の「カテゴリ」 あるいは「クラ ス」に分類する技術 Arthor Samuel 曰く、機械学習とは 「明示的にプログラミングする ことなく，コンピュータに学ぶ能力を与えようとする研究分野」 →実際はデータから知識や規則性を計算機に発見させること →クラス分類、クラスタリング、回帰、などなど
- 4. パターン認識の流れ • 例題：硬貨の分類問題（自動販売機をイメージ） 識別対象 特徴ベクトル サイズ 重さ 透磁率 穴の有無 識別クラス １０円 ５０円 １００円 ５００円 識別不能 特徴抽出 識別規則 • 特徴抽出 … 対象を観測し、分類の手がかりとなる特徴量を取り出す • 特徴ベクトル ... 抽出された特徴量をベクトルの形に表現したもの • 識別規則 ... 「クラス」に分類するための規則 ※識別とは「有限個の既知の要素を持つクラスのどれに分類されるかを， 分類される対象の特徴に基づいて予測・決定する処理」 出力 「10円」 入力
- 5. パターン認識の流れ • 例題：硬貨の分類問題（自動販売機をイメージ） 識別対象 １０円玉 ５０円玉 １００円玉 ５００円玉 特徴ベクトル サイズ 重さ 透磁率 穴の有無 識別クラス １０円 ５０円 １００円 ５００円 識別不能 特徴抽出 識別規則 • 特徴抽出 … 対象を観測し、分類の手がかりとなる特徴量を取り出す • 特徴ベクトル ... 抽出された特徴量をベクトルの形に表現したもの • 識別規則 ... 「クラス」に分類するための規則 ※識別とは「有限個の既知の要素を持つクラスのどれに分類されるかを， 分類される対象の特徴に基づいて予測・決定する処理」
- 7. パターン認識の流れ • 例題：硬貨の分類問題（自動販売機をイメージ） 識別対象 １０円玉 ５０円玉 １００円玉 ５００円玉 特徴ベクトル サイズ 重さ 透磁率 穴の有無 識別クラス １０円 ５０円 １００円 ５００円 識別不能 特徴抽出 識別手法 • 特徴抽出 … 対象を観測し、識別の手がかりとなる特徴量を取り出す • 特徴ベクトル ... 抽出された特徴量をベクトルの形に表現したもの • 識別手法 ... 「クラス」に分類するための規則 ※厳密には特徴抽出の前に「前処理」が入ったりする
- 8. 特徴抽出 この設計が性能を左右する（職人芸とも） • 必要な前処理は何か？ ⇒まずは実際の生のデータをプロットして眺めてみたり • 各応用分野の特徴量を参考に ⇒音声ならケプストラムとか • その他 • 各種の次元削減手法(例：主成分分析や線形判別分析) • 対数変換、白色化などなど
- 9. パターン認識の流れ • 例題：硬貨の分類問題（自動販売機をイメージ） 識別対象 １０円玉 ５０円玉 １００円玉 ５００円玉 特徴ベクトル サイズ 重さ 透磁率 穴の有無 識別クラス １０円 ５０円 １００円 ５００円 識別不能 特徴抽出 識別手法 • 特徴抽出 … 対象を観測し、識別の手がかりとなる特徴量を取り出す • 特徴ベクトル ... 抽出された特徴量をベクトルの形に表現したもの • 識別手法 ... 「クラス」に分類するための規則
- 10. 代表的な識別手法（1/2） • 類似度に基づく手法 • 新たに入力されるデータとなんらかの代表的なサンプ ルとの類似度（距離）を測ることで、類似度の高い代表 サンプルのクラスに分類する手法 • k最近傍識別法やテンプレートマッチングが代表的 クラス１ クラス２ 新規データ 距離最短！
- 11. 代表的な識別手法（1/2） • 類似度に基づく手法 • 新たに入力されるデータとなんらかの代表的なサンプ ルとの類似度（距離）を測ることで、類似度の高い代表 サンプルのクラスに分類する手法 • k最近傍識別法やテンプレートマッチングが代表的 クラス１ クラス２ 新規データ 距離最短！
- 12. 代表的な識別手法（1/2） • 類似度に基づく手法 • 新たに入力されるデータとなんらかの代表的なサンプ ルとの類似度（距離）を測ることで、類似度の高い代表 サンプルのクラスに分類する手法 • k最近傍識別法やテンプレートマッチングが代表的 クラス１ クラス２ 新規データ k-最近傍法(k=3)
- 13. 代表的な識別手法（1/2） • 類似度に基づく手法 • 新たに入力されるデータとなんらかの代表的なサンプ ルとの類似度（距離）を測ることで、類似度の高い代表 サンプルのクラスに分類する手法 • k最近傍識別法やテンプレートマッチングが代表的 • 確率モデルに基づく手法 • データに含まれる不確実性を確率分布で表現 ⇒クラスに関する事後確率が最大となるクラスに分類 • ナイーブベイズ、ガウス混合モデルなどが代表的 事後確率 : 識別対象クラスの集合 :特徴ベクトル 事前確率
- 14. 代表的な識別手法（2/2） • 識別関数に基づく手法 • 確率モデルを仮定せず、クラスごとの識別関数を計算 ⇒識別関数が最大となるクラスに分類 • 線形識別モデル、サポートベクトルマシン、ニューラル ネットワークが代表的
- 15. 代表的な識別手法（2/2） • 識別関数に基づく手法 • 確率モデルを仮定せず、クラスごとの識別関数を計算 ⇒識別関数が最大となるクラスに分類 • 線形識別モデル、サポートベクトルマシン、ニューラル ネットワークが代表的 • 特徴空間の分割に基づく手法 • 特徴空間を何らかの方法で分割し、それぞれの領域に クラスを割り当てる手法 • 決定木（各変数に対する質問により特徴空間を区分し ていく方法）が代表的 • 集団学習に基づく手法 • 上記の複数の分類手法を統合して結果を得る手法 • バギング、ランダムフォレスト、ブースティングが代表的
- 16. 結局どの識別手法がいいの？ • 最初は簡単な手法から • 類似度に基づく手法（テンプレートマッチング） • 線形識別モデル • ナイーブベイズ • 上手く行かない場合ば徐々に複雑な手法 • ガウス混合モデル • サポートベクトルマシン • 決定木 • 集団学習（ブースティングなど） • ディープニューラルネット ⇒ 一長一短あるので、色々試してみる 次の次のスライドで参考図を示します
- 17. ソフトウェア • Weka • 要Java • GUIインタフェースで使いやすい • scikit-learn • 要Python • プログラミング環境が必要（Pythonのパッケージの１種） • 書籍、Web上に豊富な参考情報が存在 • Pythonによる機械学習入門 ～SVMからDeep Learningまで～ ⇒名古屋大学助教の川西先生によるチュートリアル資料 • scikit-learnを用いた機械学習チュートリアル …などなど、Slideshareというサイトで「Python 機械学習」で検索しても 参考資料がたくさんヒットする • Pythonではじめる機械学習（書籍） ⇒scikit-learnのサンプルコードを動かしながら機械学習を勉強可能
- 19. まとめ • パターン認識の流れを紹介 1. 観測データ（入力）から特徴量を抽出して特徴ベクトルに変換 2. 特徴ベクトルに識別手法を適用して識別結果（出力）を得る • 代表的な手法を紹介 • 類似度、確率モデル、識別関数、空間分割、集団学習 • 最初は簡単な手法から → 例えば線形分類器
- 20. 参考書籍 1. 知りたい分かりたい人の 体験する機械学習 →Wekaの使い方、雰囲気を体験できる 2. フリーソフトではじめる機械学習入門 →Wekaを使いながら機械学習も勉強でき、お得 3. フリーソフトでつくる音声認識システム →機械学習の基礎がわかりやすく説明されている（非Weka） 4. はじめてのパターン認識（通称 はじパタ） 5. わかりやすいパターン認識（通称 わかパタ）