Pattern Recognition and Machine Learning

39：karino2：2017/01/11(水) 12:14:30: 8.3はMRF。

8.3.1はグラフ上のseparationと条件付き独立が対応するような分布を考えたい、という問題設定をする。

8.3.2ではその条件を満たすようなfactorizationの形を考えて、クリークのポテンシャルの積とすれば良い、という話が出てくる（8.39）。
で、独立性を満たす分布とこのfactorizationの形で表せる分布は同じ集合であるという定理が証明されてると言及される（Hammersley-Clliford定理）
そのあとポテンシャルをエネルギーに置き換えるとボルツマン分布になるよ、とか、ポテンシャルはローカルな望ましさを表すと解釈出来るよ、などの話が続く。

8.3.3ではMRFの具体的な適用例として画像のde-noiseの話。
真の値の隣接ピクセルに強い相関がある、という前提でモデリングをするとIsing模型となる、という話。
おー！本当にIsing模型だ！すげー！

で、ICMとかいう各点だけ動かした最適解を求めるというのが紹介されている。
当然これでは局所最適に陥るだけでいまいち。
あとでやるmax-sumの方がマシだよ、とか、この場合はgraph-cutという最適解を探すアルゴリズムもあるよ、という話をちらっとする。

8.3.4ではここまでやった2つのモデル、ベイジアンネットとMRFの関係を見る。
ベイジアンネットからMRFへの変換は親同士のエッジをつなげる事で出来る事（Moralization）、この変換がjunction tree algorithmで使われる事に言及する。
そのあとD map、 I map、 perfect mapの話が。
D map: 全ての分布Aの独立性の関係がグラフに表現されてる時、このグラフを分布AのD mapと言う。
I map: グラフで表現される独立性がある分布Aで成立している場合、このグラフはAのI mapと言う。
perfect map: 全ての分布Aの独立性の関係がグラフで表現されて、さらにグラフで表現されてる独立性を全て分布が満たしている時、このグラフをperfect mapと言う。

で、ベイジアンネットのp mapとMRFのp mapが表せる分布の集合は一致してないよ、という話で終わる。

※書き込む際の注意事項はこちら

※画像アップローダーはこちら

（画像を表示できるのは「画像リンクのサムネイル表示」がオンの掲示板に限ります）