Pattern Recognition and Machine Learning

82：karino2：2017/05/26(金) 19:14:13: 9.3の最初の説明が良いな。
まず9.29の形で、lnの中にシグマがあると、最尤推定は困難である。
ただ、sumが無ければ指数族だったりする。

そこで、zについての和をかんがえず、マージナライズする前のzとの同時分布を考えると、各xとzについてはこれは指数族なので、最尤推定出来る。

でもzはlatent variableなので実際の観測データには無い。
そこでzの事後分布を使う訳だ。

9.30でthetaの尤度関数を求める時に、zの分布による期待値を求めるが、この時にzの事後分布を用いている。
そうする事で、和をlnの中では無く外に押し出す事に成功している。

zさえわかっていれば、同時分布の尤度はlnの形で求まる。
そこでその同時分布を求めて、zによる期待値を出す訳だ。
それは本来的にはZの方のシータにも含まれるので計算不能だが、zの分布に関しては古いパラメータで考える。

古いパラメータでzの分布を考え、その分布の中ではxとzは既知として同時分布から尤度が出ると考えてthetaの最尤推定を行う、そしてその結果をzの分布の期待値をとる事で、thetaの推定値とする訳だ。

で、thetaがきまるとzの事後分布が更新されるので、まだ両者をやり直す。

新着レスの表示

※書き込む際の注意事項はこちら

※画像アップローダーはこちら

（画像を表示できるのは「画像リンクのサムネイル表示」がオンの掲示板に限ります）

掲示板管理者へ連絡無料レンタル掲示板