Pattern Recognition and Machine Learning

89：karino2：2017/06/17(土) 15:17:50: 13.2.2は観測値を元にzの分布を計算する、という話。
当然HMMなので8章でやったsum-productで厳密解が割と簡単に出る訳だが、復習も兼ねてforward-backwardアルゴリズムという方法でまず計算してみて、それとsum-productとの関わりを見ていく、というふうに進めるとの事。

まずHMMから独立性は13.24から始まる一連の式の形で書ける。
そしてzの分布をベイズルールを使ってxの分布に直し、x_nまでとn+1からに分けて、nまでの方に積の法則を使って同時確率に直すと、13.33のように書ける。

ここでアルファとベータについて、漸化式を求められて、13.36と13.38となる。
ベータは上から戻ってくる関係となってるのでbackward message passingと呼ばれる。

以上でガンマについてはEM法の計算で必要な要素は揃うが、ついでにXの尤度の話もしている。
EM法ではキャンセルされるから要らないけれど、尤度自体は興味有る事があるので、latent variableについてマージナライズして求める。

新着レスの表示

※書き込む際の注意事項はこちら

※画像アップローダーはこちら

（画像を表示できるのは「画像リンクのサムネイル表示」がオンの掲示板に限ります）

掲示板管理者へ連絡無料レンタル掲示板