NN系機械翻訳の調査

17：karino2：2017/02/28(火) 20:37:32: 3を読んだ。式を見た時は何を言っているんだ？と思ったが、その後に説明があって、これが分かりやすい。

まずh_iは各単語を読んで行く時のhidden stateだ。
学習は知らないが、生成モデルとして同じ文が出るようにするのでも十分だし対訳を考慮すればもっと良さそう。

で、h_iとs_jの間のalignmentをニューラルネットで学習する。
encoderのhidden unitとdecoderのhidden unitの対応付けの強さみたいなのを学ぶニューラルネットだ。

で、あとはこの値をコンテキストとしてdecoderがデコードする。
これはようするにhidden unitを文全体じゃなくてその単語周辺ごとに用意して、必要に応じたhidden unitを選択して使う訳だ。
なるほど～。これは凄い！いけそう！

新着レスの表示

※書き込む際の注意事項はこちら

※画像アップローダーはこちら

（画像を表示できるのは「画像リンクのサムネイル表示」がオンの掲示板に限ります）

掲示板管理者へ連絡無料レンタル掲示板