Pattern Recognition and Machine Learning

29：karino2：2017/01/06(金) 21:18:59: 4.1.4は線形のパラメータとの内積で実数に落とした上で、クラス内の分散とクラスの重心同士の差分の比を最大化するようにパラメータベクトルの向きを決める、というフィッシャーのlinear discriminantについて。

4.1.5はこのフィッシャーのlinear discriminantが、ターゲットのエンコーディングを変えた最小二乗法に一致する、という話。
へー。計算するとなりそうなのは納得だが、なんか感覚的には信じがたい。
なんでこれでうまい事クラス間の分散とクラス内の分散を見たり出来るのだろう？

4.1.6はそのマルチクラスへの拡張。

4.1.7はフィッシャーのlinear discとはまた別のdiscriminantであるperceptronの話。
fをステップ関数として中を線形モデルとしたもの。
この場合は損失関数をどうするか、というところに工夫があり、perceptron criterionと言うらしい。
tを1と-1として、f の引数とかけると1も-1も一つの式に表せて、その和の4.54を最小化すれば良いらしい。
4.7の図は分かりやすくて良いね。

新着レスの表示

※書き込む際の注意事項はこちら

※画像アップローダーはこちら

（画像を表示できるのは「画像リンクのサムネイル表示」がオンの掲示板に限ります）

掲示板管理者へ連絡無料レンタル掲示板