【機械学習プロフェッショナルシリーズ】グラフィカルモデル2章
- 2. 本書の構成
• 1章
• グラフィカルモデルの導入
• 2章
• 確率論の基礎的な事項(条件付き確率、条件付き独立)
• 3,4章
• ベイジアンネットワーク/マルコフ確率場
• 5章
• 因子グラフ
• 6,7,8章
• 確率推論
• 9,10,11章
• パラメタ学習
• 12, 13章
• MAP推定
• 14章
• 構造学習
- 4. 確率論の基礎
定義2.1 : σ-加法族
集合Ω その部分集合族𝙁 が以下の3つの条件を満たすとき、σ-加法族とい
う。
1. Ω ∈ 𝙁
2. 𝐴 ∈ 𝙁 ならばΩ\ 𝐴 ∈ 𝙁 が成立
3. 𝙁の加算個の元𝐴1, 𝐴1, 𝐴1 …に対して、∪𝑖 𝐴𝑖 ∈ 𝙁 が成立
組(Ω,𝙁)は可測空間、𝙁の元は可測集合と呼ばれる。
- 9. 2.3 条件付き確率
確率空間(Ω, 𝙁, P)とその上の確率変数Xがあるとします。今、「確率変数X
の値がBの中に入っている」という条件付けを考える。すなわり、Ωの部分
集合
𝑄 𝐵 𝐴 =
𝑃( ω∈ Ω ω∈𝐴,𝑋 ω ∈𝐵})
𝑃(𝑋∈𝐵)
𝑓𝑜𝑟 𝑎𝑙𝑙 𝐴 ∈ 𝐹
𝑋−1(𝐵) = {𝜔 ∈ Ω | 𝑋(𝜔) ∈ 𝐵}
の確率を1に規格化し直し、 X(ω) ∈ B以外の確率を0にする。
式このことを表現すると、条件つき確率はQBの定義は、
で与えられます。
- 10. 2.3 条件付き確率
𝑃 𝑋 = 𝑥 𝑌 = 𝑦 =
𝑃(𝑋 = 𝑥, 𝑌 = 𝑦)
𝑃(𝑌 = 𝑦)
X,Yが離散的な確率変数の場合、Y=yの事象が観測されたとすると、
X=xの確率は、以下のように表現される