Recommended
More Related Content
Featured
Featured (20)
ディープラーニング入門
- 2. 導入
- 13. 機械学習の手法 機械学習の定義 ・・・ 学習（経験）する方法 教師あり学習 教師なし学習 強化学習 問題と答えで学習 構造を自分で把握 試行錯誤を繰り返す
- 14. 機械学習の定義 ・・・ 学習（経験）する方法 教師あり学習 教師なし学習 強化学習 機械学習の手法 問題と答えで学習 構造を自分で把握 試行錯誤を繰り返す
- 15. 教師あり学習 ・ 問題とその答えをセットで機械に与える ・ 機械はどうにかして、問題を答えに変換する方法を探す ・ 上記を多くの事例に対して行い、一般的な問題に対応させる 例：数字を覚えさせる
- 16. 機械学習の定義 ・・・ 学習（経験）する方法 教師あり学習 教師なし学習 強化学習 機械学習の手法 問題と答えで学習 構造を自分で把握 試行錯誤を繰り返す
- 18. 機械学習の定義 ・・・ 学習（経験）する方法 教師あり学習 教師なし学習 強化学習 機械学習の手法 問題と答えで学習 構造を自分で把握 試行錯誤を繰り返す
- 20. 導入ここまで
- 22. 1. 概観
- 23. AI技術の概観 AI（artificial intelligence）技術 機械学習 計算知能 エキスパートシステム 事例ベース推論 ベイジアンネットワー ク ニューラルネットワーク ファジイ制御 進化的計算 https://ja.wikipedia.org/wiki/%E4%BA%BA%E5%B7%A5%E7%9F%A5%E8%83%BD を元に作成
- 24. AI技術の概観 AI（artificial intelligence）技術 機械学習 計算知能 エキスパートシステム 事例ベース推論 ベイジアンネットワー ク ニューラルネットワーク ファジイ制御 進化的計算 https://ja.wikipedia.org/wiki/%E4%BA%BA%E5%B7%A5%E7%9F%A5%E8%83%BD を元に作成 有向グラフ（確率） 過去の事例利用 記号処理、論理学 遺伝メカニズム 神経細胞モデル 曖昧な表現を利用した制御 反復計算統計分析
- 25. AI技術の概観 AI（artificial intelligence）技術 機械学習 計算知能 エキスパートシステム 事例ベース推論 ベイジアンネットワー ク ニューラルネットワーク ファジイ制御 進化的計算 https://ja.wikipedia.org/wiki/%E4%BA%BA%E5%B7%A5%E7%9F%A5%E8%83%BD を元に作成 このように分類されていますが、現在は「計算知能」のこと を指して「機械学習」と呼んでいる記事が圧倒的。この分 類での「機械学習」は 70〜80年代に興隆した技術で、現 在はあまり話題にならない。 機械学習
- 26. 2. 理論
- 29. 人工知能 ≒ 数理モデル
- 31. 数理モデル（mathematical model） ・・・例 1.「A君の貯蓄額」というシステム （変化する系）をモデル化する。 A君 A君 2. A君の行動を観察する。 A君は貯金が趣味であり、毎日 500円ずつ 貯金していることがわかった。 つまりA君の貯蓄額は毎日500円ずつ増加 する。 また、A君は始めに３００円貯蓄があるとす る。
- 32. 数理モデル（mathematical model） ・・・例 ３. この事実をグラフに描いたもの。 横軸が時間、縦軸が貯蓄額である。 0 1 2 3 4 5 6 7 8 9 10 11 12 … (日) （円） 6,000 5,000 4,000 3,000 2,000 1,000 500 0 4. グラフから明らかなように、 X日後の貯蓄額 （Y） は５００*X+300と等しい。 A君の貯蓄額は、Y=500X+300と数学的にモデ ル化された。 (貯蓄額) ＝ 500 * (日数) + 300 Y = 500 X + 300
- 33. 数理モデル（mathematical model） ・・・例 Y = 500 X + 300 0 1 2 3 4 5 6 7 8 9 10 11 12 … X Y 6,000 5,000 4,000 3,000 2,000 1,000 500 0 ここで重要なことは、 Xにどんな数（X>0の整数）を入れてもそのX 日後時点での貯蓄額Yが自動的に求められ る点。 モデルとはそのように、可能な限り、入力す る値にかかわらずその値における正しい回答 を出力できるように設計するもの。
- 34. 数理モデル（mathematical model） ・・・例 Y = 500 X + 300 0 1 2 3 4 5 6 7 8 9 10 11 12 … X Y 6,000 5,000 4,000 3,000 2,000 1,000 500 0 つまり、 この例で構築したモデル「Y=500X+300」に「A君の３日後の貯蓄額は？」と尋ねると、 予測値「1800円」を返してくれるはず AI＝数理モデル 1800円です！ ＞ 500*3+300＝1800
- 35. AI技術の概観 AI（artificial intelligence）技術 機械学習 計算知能 エキスパートシステム 事例ベース推論 ベイジアンネットワー ク ニューラルネットワーク ファジイ制御 進化的計算 https://ja.wikipedia.org/wiki/%E4%BA%BA%E5%B7%A5%E7%9F%A5%E8%83%BD を元に作成 再掲
- 37. パーセプトロン（perceptron） ・ 1950〜1960 Warren McCulloch, Walter Pitts らを元にFrank Rosenblattが提案 ・ 「重み」と「バイアス（閾値）」を持ち、入力＊「重み」の総和がバイアスを超えれば発火 ・ 入力・出力ともに0または1のみ https://nnadl-ja.github.io/nnadl_site_ja/chap1.html output= { 0 if ∑j wj xj ≤ threshold 1 if ∑j wj xj > threshold
- 41. 活性化関数 https://nnadl-ja.github.io/nnadl_site_ja/chap1.html 1. 「重み」と「バイアス」の微小な変化が、出力の微小な変化につながることが重要（そ うでなければ”学習”することができない） 出力の微小な変化 ＝ 「重み」 と 「バイアス」 の微小な変化 の線型結合で書ける →つまり、入力に対するどんな出力でも重みとバイアスを変えれば表現できる！
- 44. 多層パーセプトロン（multilayer perceptrons, MLPs） https://nnadl-ja.github.io/nnadl_site_ja/chap1.html 入力層 （input layer） 隠れ層 （hidden layer） 出力層 （output layer） パーセプトロンを多層化したもの ※層の構成要素はパーセプトロンではなく、実際にはシグモイドニューロン
- 45. 多層パーセプトロン（multilayer perceptrons, MLPs） https://nnadl-ja.github.io/nnadl_site_ja/chap1.html 入力層 （input layer） 隠れ層 （hidden layer） 出力層 （output layer） mnistの手書き数字認識を解く多 層パーセプトロンの構造
- 46. ディープラーニング(Deep Learning) ・ ニューラルネットワークの多層化、特に3層以上のもの ・ 脳、視覚野の研究や、 「たった一つの学習理論(One Learning Theory）※１」、 スパース・コーディング理論※２を基にしたアルゴリズムが実 装されたもの ※１：脳が物事を学習する際には、全ての処理対象に対して唯一の学習方法を使っているという考え方 ※2：脳がある処理をするときに、なるべく少ない神経活動で済ませられるように学習をしていく http://s0sem0y.hatenablog.com/entry/2016/04/30/173951#%E3%81%9F%E3%81%A3%E3%81%9F1%E3%81%A4%E3%81%A E%E5%AD%A6%E7%BF%92%E7%90%86%E8%AB%96
- 48. ディープラーニングの種類 ・ 畳み込みニューラルネットワーク(Convolutional Newral Networks: CNN) ・・・主に画像認識 ・ 再帰型ニューラルネットワーク(Recurrent Newral Networks: RNN) ・・・自動翻訳、音声認識など（時系列等の連続した関係を学習できる）
- 52. 3. 実装へ向けて
- 55. （参考）機械学習に関わる手法 ・ サポートベクターマシン ・ 決定木 ・ ナイーブベイズ推定 ・ 主成分分析（PCA） ・ k-meansメソッド 分類 クラスタリング 次元削減（クラスタリング）
- 57. 参考資料 ニューラルネットワークと深層学習 １．ニューラルネットワークを用いた手書き文字認識 https://nnadl-ja.github.io/nnadl_site_ja/chap1.html 有名論文から学ぶディープラーニング 2016.03.25 http://www.slideshare.net/minoruchikamune/20160325-60094117 【機械学習】ディープラーニング フレームワークChainerを試しながら解説してみる。 http://qiita.com/kenmatsu4/items/7b8d24d4c5144a686412 高卒でもわかる機械学習 (4) 誤差逆伝播法の前置き http://hokuts.com/2016/05/27/pre-bp/ はじめるDeep learning http://qiita.com/icoxfog417/items/96ecaff323434c8d677b