今までを通してやりたかったことの総まとめ的な話 選択肢から選ぶという行為は相対的行為であるということ

1. WHATYOU CHOOSE INDICATES
WHATYOUVALUE 4
chen(@yuno_miyako)

2. 選択肢から選ぶということ
選択肢から選ぶということは、他の選択肢と比較してより
良いものを選ぶということ
絶対評価ではなく、相対評価である

3. 正解データは選ばれたか否か
正解データはあくまでも、選択肢の中から選ばれたという
こと
選択肢の全てが悪かった場合でも必ず一つは選択される
つまり、正解だからといってそれが優れているとは限らな
い

4. これを無視してナイーブに機械学
習を当てはめると問題がある。

5. ナイーブな機械学習
正解データをt 特徴量をxとすると、ナイーブな機械学習は
次のような目的関数になる。
X
k
(tk f(xk))2
! min
左辺を最小化させる関数形fを求めるということになる。こ
れは特徴量xの絶対評価を求める関数fを求めることに他な
らない。

6. やっていることがちぐはぐになる
正解データは相対評価にもかかわらず、機械学習がつくる
関数は絶対評価を計算するもの。

7. より正しい目的関数を考える

8. 選択されたということは、
選択者の評価関数をf(x)、選択された特徴量をx*、それ以外
をxiとする。
選択者は評価関数が最大になったものを選んでいるので、
f(x⇤
) f(xi
) 0
等号条件は i = * のとき。

9. この不等号式の性質を再確認
i = *のとき、
f(x⇤
) f(xi
) = 0
i ≠ *のとき、
f(x⇤
) f(xi
) > 0

10. そして正解データは、
i = *のとき、
t = 1
i ≠ *のとき、
t = 0

11. このふたつを近づける目的関数は、
L =
X
i
|t exp( f(x⇤
) + f(xi
))|2
x = 0で1になり、
x > 0で0に近づく関数としてexp(-x)を使うと、
を最小化する関数fを求める問題に帰着できる。

12. さらにちゃんというと、
選択肢の数をI個、データの数をK個とすると結局目的関数
は、
L =
KX
k
IX
i
|tk exp(f(xi
k) f(x⇤
k))|2
とすることが合理的であるということになる。

13. 関数を設定すれば解が得られる
fに線形関数を仮定すれば、
L =
KX
k
IX
i
|tk exp(wT
xi
k wT
x⇤
k)|2
を最小化するパラメータwを求める問題になり解ける。
線形関数でなくても一般化線形モデルやニューラルネット
の式を利用すれば非線形の評価関数も推定できる

14. 応用例
麻雀は手持ちの14 から1 を選ぶという操作を繰り返して
いる。
ナイーブに機械学習を適用するよりも、今回のスライドの
ように評価関数を変えることでより正しい学習が期待でき
る。