「予測にいかす統計モデリングの基本」勉強会 第一章、2月24日

1. 「予測にいかす統計モデリングの基本」
第一章 予測とは何かを考える
Takahiro Yoshinaga (Univ. of Tokyo)
状態空間モデル勉強会
Based on
「予測にいかす統計モデリングの基本」, 樋口知之, 講談社, 2011
2015年2月24日 @UT
をするために必要な枠組

2. 勉強会の目的 2
「時系列データをもとに統計モデリング、
予測ができるようになる」
time
観測量
時系列データ 統計モデリング 予測
3章 状態空間モデル アルゴリズム 4, 5章
実装 6, 7章(粒子フィルタ)

3. 本の概要 3
1. 予測とは何かを考える
2. 確率による記述：基礎体力をつける
3. 統計モデル：予測機能を構造化する
4. 計算アルゴリズム１：予測計算理論を学ぶ
5. 計算アルゴリズム２：モデルを進化させる
6. 粒子フィルタ：予測機能を実装する
7. 乱数生成：不確実性をつくる
8. 経験値の総結集：売り上げ予測の精度を上げる
9. データ同化：シミュレーションの予測性能を向上させる
10.確率ロボティクス：お掃除ロボを作る
基礎編
実装編
応用編

4. 本の概要 4
1. 予測とは何かを考える
2. 確率による記述：基礎体力をつける
3. 統計モデル：予測機能を構造化する
4. 計算アルゴリズム１：予測計算理論を学ぶ
5. 計算アルゴリズム２：モデルを進化させる
6. 粒子フィルタ：予測機能を実装する
7. 乱数生成：不確実性をつくる
8. 経験値の総結集：売り上げ予測の精度を上げる
9. データ同化：シミュレーションの予測性能を向上させる
10.確率ロボティクス：お掃除ロボを作る
基礎編
実装編
応用編

5. 第一章の概要 5
「予測が難しいことを理解する」
 ナイーブなモデリング
：統計的時系列モデル、ニューラルネットワーク、…
 データのあてはめ：最適化関数、…
time
観測量
時系列データ 統計モデリング 予測
実際のデータを扱うには不十分な点が多い

6. 1.1 居酒屋の売り上げ高の予測 6
具体例：レストランの売り上げデータ
代わりにberoberoさんのページのデータを持ってきました
http://heartruptcy.blog.fc2.com/blog-entry-90.html
0 200 400 600
50100150200
day
Sales
2012/1/1~2013/12/31
繁忙期(8月)：欠損

7. 1.1 居酒屋の売り上げ高の予測 7
Notation
 観測された時系列データ：
 時系列データの集合
 時刻tでのデータの予測値：
売り上げデータの予測問題を考える

8. 1.1 居酒屋の売り上げ高の予測 8
モデリングの例：統計的時系列モデル
 自己回帰 (AR) モデル
 ニューラルネットワーク
過去データの線形和
非線形関数
ai：自己回帰係数（未知）, p：AR次数, wt：ノイズ
ここでは、過去データによって現在が規定されるモデルを紹介
例えば、最尤法とAICで決定

9. 1.1 居酒屋の売り上げ高の予測 9
他にも時系列モデルはたくさんある
 移動平均 (MA) モデル
 ARMAモデル (AR+MA)
「過去の自分のことはすべて忘れていくスタイル」

10. 1.1 居酒屋の売り上げ高の予測 10
他にも時系列モデルはたくさんある
 ARIMAモデル
「ARMAモデルを非定常時系列に拡張」
 非定常の場合、平均が時間変動
 時系列の階差をとることで平均の揺れを緩和
 階差時系列に対してARMAを適用
ARMAモデルを適用
時系列データが非定常の場合

11. 1.1 居酒屋の売り上げ高の予測 11
他にも時系列モデルはたくさんある
 GARCHモデル
 さらに拡張した有象無象たち…
時系列データの分散が時間変動
すべてのパラメータは正と仮
定
時系列解析もじっくり勉強したい…

12. 1.1 居酒屋の売り上げ高の予測 12
モデリングの例：ARモデル
0 200 400 600
50100150200
day
Sales
仮想的に100日分を予測してみた(*)
(*) ARモデルは欠損データがあるとRで解析できないので、少しズルをしている
（繁忙期のデータもこっそり使っている）
予測はしてみたはいいが…

13. 1.1 居酒屋の売り上げ高の予測 13
 手軽に(データだけから)予測値を得られる
 経験などに基づく要因を取り込めない
- 逆推論できない
- 結果の可読性が悪い
- 学習の効率性が悪い
利点
欠点
モデリングの例：統計的時系列モデル

14. 1.1 居酒屋の売り上げ高の予測（まとめ） 14
時系列データから予測をしたい
統計的時系列モデルだけだと不十分?!
経験に基づく要因も取り込みたい
最適化関数による表現
1.2 最適化関数の紹介, 1.3 季節変動を取り込む

15. 1.2 期待感を数式で表す 15
データの当てはめの例：最適化関数
データをトレンド成分とそれ以外に分離、トレンド成分を
上手くつなげることでデータに滑らかな曲線を当てはめる
トレンド成分
残差

16. 1.2 期待感を数式で表す 16
データの当てはめの例：最適化関数
最適化関数
最適化関数を最小にするμ＊を見つける
1. あてはめる直線○とデータ✕の位置は近い
2. 連続する3つの✕はほぼ一直線上にある
仮定
(1) α：条件のどちらが強いかをコントロール（手で決める）
(2) 最適化関数の関数形はこれ以外でもよい（直観に合ってれば）

17. 1.2 期待感を数式で表す 17
データの当てはめの例：最適化関数
：固定したαの元でμtで微分してゼロとおいたときの解
例 : t = 1
残りもじんぐり計算するだけ、解は一意に定まる

18. 1.2 期待感を数式で表す 18
データの当てはめの例：最適化関数
もう少しかっこよく書いておく
最適化関数
最小化（μで微分してゼロ）

19. 1.2 期待感を数式で表す 19
データの当てはめの例：最適化関数
 αを決めれば、μ*は一意に決まる
 αを決める方法が最適化の範囲を超える
 μ*の誤差評価ができない
 最適化だけでは予測の実行は困難
理解しておくこと
何らかの仮定をおけばデータを
フィットできるけど、予測は難しい
（何らかの統計モデルを考えなければならない）

20.  周期性をもつ成分stを仮定(*1)
 季節成分の条件（例）
1.3 パターンの表現 20
周期的なパターンを取り込んでみる
具体例：レストランの売り上げデータ
「現時点と一週間前のデータは似てる
(*2)」
「週パターンはあまり変化しない」
(*1) 加え方の優劣はモデル比較で判断
(*2) 横一直線のデータを季節成分としてしまう危険性あり

21. 1.3 パターンの表現 21
最小化(*)
最適化関数
求まる
(*) αμ, αsは手で決める
周期的なパターンを取り込んでみる
具体例：レストランの売り上げデータ

22. 1.2と1.3のまとめ 22
時系列データをいろいろな要因
によって説明したい
フィットはできるが予測が困難
何らかの統計モデルを考える必要あり
最適化関数による表現
1.2 最適化関数の紹介, 1.3 季節変動を取り込む

23. 第一章のまとめ 23
「予測をすることは難しい」
今後の目標
経験などの知見を要因に組み込んだ上で統計モデリングを行いたい
time
観測量
時系列データ 統計モデリング 予測