[論文レビュー] An Incremental Iterated Response Model of Pragmatics

Reuben Cohn-Gordon, Noah D. Goodman+1 more|arXiv (Cornell University)|Sep 30, 2018

Speech Recognition and Synthesis被引用数 10

ひとこと要約

この論文は、発話生成および受話者理解の過程で逐次的（word-by-word）に弁別的推論を行うインクリメンタルな反復応答（Iterated Response, IR）モデルを提案する。従来の完全な発話を一度に処理するグローバルモデルとは対照的である。このモデルは、従来のグローバルモデルが説明できなかった、過剰情報の指差し表現や対比的修飾語による予期的な含意（anticipatory implicatures）といった現象を捉え、特にTUNAコーパスにおける現実的で文脈に適した指差し表現の予測において、グローバルモデルを上回る性能を示す。特に、短い表現よりも文脈的に情報量の多い多語の表現を好む傾向が顕著である。

ABSTRACT

Recent Iterated Response (IR) models of pragmatics conceptualize language use as a recursive process in which agents reason about each other to increase communicative efficiency. These models are generally defined over complete utterances. However, there is substantial evidence that pragmatic reasoning takes place incrementally during production and comprehension. We address this with an incremental IR model. We compare the incremental and global versions using computational simulations, and we assess the incremental model against existing experimental data and in the TUNA corpus for referring expression generation, showing that the model can capture phenomena out of reach of global versions.

研究の動機と目的

• 完全な発話を一度に処理する従来のグローバルな反復応答モデルの限界を補うために、逐次的（単語ごとに）に弁別的推論を行うモデルを開発し、リアルタイムの言語処理をよりよく反映することを目的とする。
• インクリメンタルな弁別的推論が、従来のグローバルモデルが説明できない実験的現象——例えば、形容詞＋名詞語順と名詞＋形容詞語順言語における非対称性、対比的修飾語から生じる予期的な含意——を説明できることを示すこと。
• 心理言語学的データおよびTUNAコーパスを用いた指差し表現生成タスクにおいて、インクリメンタルモデルを評価し、より現実的な予測性能を示すこと。
• すべての可能な発話を全列挙する必要がないため、グローバルなRSAモデルのスケーラビリティの欠如を補う、スケーラブルな代替手法を提供すること。

提案手法

• モデルは合理的な発話行動（Rational Speech Acts, RSA）フレームワークに基づき構築され、グローバルな弁別的推論を逐次的プロセスに再定式化。各単語が逐次的に処理され、聞き手と発話者が部分的発話をもとに信念を更新する。
• 発話系列内の各単語について、部分的発話の意味解釈を明示的リスナーが行い、次に弁別的発話者が次の単語を選択する。その際、期待される情報量とコストに基づき選択され、単語レベルのコスト関数（内容語は1.0、ストップワードは0.0）が使用される。
• インクリメンタルな弁別的発話者 $ S_1^{\text{UTT-IP}} $ は、各単語で停止する確率と継続する確率を計算し、確率質量を複数の可能な発話継続肢に分散させる。これは、グローバルモデルが一度に全発話を評価するのとは対照的である。
• すべての可能な発話を全列挙する必要がないため、正規化フリーのアプローチを採用。これにより、複雑な環境でも効率的な計算が可能になる。
• 計算シミュレーションを用いてモデルを評価し、TUNAコーパスに適用。グローバルおよびインクリメンタルな推論の両方において、最適な指差し表現を予測する。
• コスト関数は発話の長さに一様にペナルティを課すが、インクリメンタルモデルでは、文脈的に情報量が多い場合、確率質量が停止と継続の選択肢に分散されるため、長めの発話も好まれる。

実験結果

リサーチクエスチョン

• RQ1 インクリメンタルな弁別的モデルは、形容詞＋名詞語順と名詞＋形容詞語順言語における違いといった、クロスリンガウティック研究で観察された過剰情報の指差し表現行動を説明できるか？
• RQ2 対比的修飾語から生じる予期的な含意（発話が完全に終わる前から意味が推測される現象）をインクリメンタルモデルは説明できるか？
• RQ3 現実世界の指差し表現生成タスクにおいて、インクリメンタルな弁別的推論はグローバル推論とは異なる発話を予測するか？
• RQ4 TUNAコーパスにおいて、インクリメンタルモデルはグローバルモデルと比較して、人間らしい指差し表現をどれほどよく予測できるか？

主な発見

• TUNAコーパスにおいて、インクリメンタルモデルは人物ドメインで287件の最適な2語発話を予測したのに対し、グローバルモデルは120件にとどまり、より長い文脈に適した表現を好む傾向が顕著に現れた。
• 家具ドメインでは、インクリメンタルモデルが149件の最適な2語発話を予測したのに対し、グローバルモデルは88件であった。これにより、インクリメンタルモデルが文脈的に情報量の多い発話を好む傾向がさらに裏付けられた。
• 「グレー」と「グレーのデスク」が両方とも完全に情報的であるケースでは、グローバルモデルはコストペナルティのため「グレー」を選択するが、インクリメンタルモデルは「右中央」——より長いが文脈に特化した表現——を好む。これは、「グレー」で停止すると確率質量が分散されるためである。
• インクリメンタルモデルは、コストがペナルティとして課されても、文脈的に情報量が多い場合、より長い発話を生成する傾向があることを正しく予測している。これは、停止と継続の選択肢に確率質量が分散されるためである。
• モデルは、語順と逐次的情報量の相互作用をモデル化することで、形容詞＋名詞語順と名詞＋形容詞語順言語における過剰情報行動の非対称性を説明できる。
• 対比的修飾語から生じる予期的な含意を生成する。これは、発話が完全に終わる前でもリスナーが意味を推測できるようにすることで実現され、これはグローバルモデルでは捉えきれない現象である。