記事

memo

マルコフ連鎖を用いた文生成

マルコフ連鎖を用いた文生成マルコフ連鎖とは、簡略化すれば、未来の状態が過去の状態に依存せず、現在の状態のみから確率によって決定されるというモデルです.文生成への適応の簡単な例を挙げると、例えば、現在の状態を「私」という単語とします.「私」の次にくる単語は、仮に、助詞「は」が50%、助詞「が」が30%、助詞「も」が20%だという統計が出ているとします(これは会話のログやニュースサイトなどを元に割り出します).この統計をもとに「私」の次の単語を選択します(ここでは「は」が選択されたとしましょう).すると、「私は」という文節ができ上がります.さらに、同じことを単語「は」についても行います.これを次々と繰り返すことで文や文章を作っていきますただし、マルコフ連鎖を用いただけでは、必ずしも意味が通っていて、対話の相手が期待しているような返答を返すことはできません.そこで、実際にマルコフ文生成型で人工無脳を作る場合は、いろいろと工夫がなされています.例えば、ログ型の方式で複数の応答文の候補を選び出し、それらに含まれる単語のみでマルコフ連鎖を行ったりといった例があります.

http://www.ite.or.jp/data/a_j_keyword/data/FILE-20120103131542.pdf