[論文レビュー] Multiresolution Recurrent Neural Networks: An Application to Dialogue Response Generation

Iulian Vlad Serban, Tim Klinger+5 more|arXiv (Cornell University)|Jun 2, 2016

Topic Modeling被引用数 73

ひとこと要約

本稿では、対話応答生成を2つの並列な確率的プロセス（高レベルの粗いトークンと自然言語トークン）によってモデル化する、マルチスケール再帰ニューラルネットワーク（MrRNNs）という新しいシーケンス・ツー・シーケンスフレームワークを提案する。両シーケンスの対数尤度を同時に最大化することで、長期的な対話構造と高レベルの抽象化を捉えることができ、Ubuntu技術的サポートおよびTwitter対話データセットにおいて最先端の性能を達成し、自動評価指標および人間評価による検証で、関連性と一貫性の面で顕著な向上を示した。

ABSTRACT

We introduce the multiresolution recurrent neural network, which extends the sequence-to-sequence framework to model natural language generation as two parallel discrete stochastic processes: a sequence of high-level coarse tokens, and a sequence of natural language tokens. There are many ways to estimate or learn the high-level coarse tokens, but we argue that a simple extraction procedure is sufficient to capture a wealth of high-level discourse semantics. Such procedure allows training the multiresolution recurrent neural network by maximizing the exact joint log-likelihood over both sequences. In contrast to the standard log- likelihood objective w.r.t. natural language tokens (word perplexity), optimizing the joint log-likelihood biases the model towards modeling high-level abstractions. We apply the proposed model to the task of dialogue response generation in two challenging domains: the Ubuntu technical support domain, and Twitter conversations. On Ubuntu, the model outperforms competing approaches by a substantial margin, achieving state-of-the-art results according to both automatic evaluation metrics and a human evaluation study. On Twitter, the model appears to generate more relevant and on-topic responses according to automatic evaluation metrics. Finally, our experiments demonstrate that the proposed model is more adept at overcoming the sparsity of natural language and is better able to capture long-term structure.

研究の動機と目的

• エンドツーエンドのニューラルモデルが対話生成において高レベルの対話的抽象化を捉えられないという問題に対処すること。
• オープンドメインおよび目的指向対話システムにおける長期依存関係のモデリングを改善し、応答のスパarsity（疎らかさ）を軽減すること。
• 標準的なシーケンス・ツー・シーケンスフレームワークを、粗いと細かいスケールの両シーケンスを統合的に学習する階層的・マルチスケールの生成プロセスを導入することで拡張すること。
• 両シーケンス（高レベルと自然言語）に対する共同最適化が、標準的な単語レベルの対数尤度学習よりも優れた応答品質をもたらすことを示すこと。
• 技術的サポート（Ubuntu）とソーシャルメディア（Twitter）という2つの困難な分野において、モデルの有効性を検証すること。

提案手法

• MrRNNアーキテクチャは、高レベルの粗いトークンシーケンスと自然言語トークンシーケンスの2つの並列シーケンスをモデル化し、両者の結合確率を因数分解する。
• 高レベルトークンは、簡単で学習しないプロシージャー（例：意図やトピック抽出）によって抽出され、学習中の複雑な推論を回避する。
• モデルは両シーケンスの正確な結合対数尤度を最大化することで学習され、これにより高レベルの対話的意味構造を捉える学習にバイアスがかかる。
• 推論時、モデルはまず粗いトークンシーケンスを生成し、その後、文脈と粗いトークンに条件づけた自己回帰的に自然言語応答を生成する。
• アーキテクチャは、共有の単語埋め込みと出力投影を用いた標準的なRNN（LSTMまたはGRU）を採用し、粗いシーケンスが高レベルの制御信号として機能する。
• 結合学習目的関数は、粗い意味的コンテンツと表面的な応答生成との間の整合性を明示的に促進し、一貫性とトピック的整合性の向上に寄与する。

実験結果

リサーチクエスチョン

• RQ1 高レベルの抽象化と自然言語トークンの両方を対象とした共同プロセスとしての対話応答生成が、応答品質と一貫性を向上させることができるか？
• RQ2 粗いシーケンスと自然言語シーケンスの両方の対数尤度を共同で最適化することで、標準的な単語レベルのパープレキシティ最適化よりも優れた長期依存関係のモデリングが達成できるか？
• RQ3 粗いトークンの抽出に、単純で学習しない手法を用いても、対話生成において顕著な性能向上が得られるか？
• RQ4 HRED、VHRED、標準的なRNNといった強力なベースラインと比較して、MrRNNモデルは自動評価指標および人間評価指標においてどのように差をつけるか？
• RQ5 特にリソースが限られた環境や長時間の対話設定において、モデルは自然言語生成におけるスパarsity問題をどの程度克服できるか？

主な発見

• Ubuntu技術的サポートデータセットでは、MrRNNモデルが自動評価指標および人間評価の両方で、すべての比較手法を上回る最先端の結果を達成した。
• Twitter対話データセットでは、自動評価指標による測定で、MrRNNモデルが応答の関連性とトピック的一致性を顕著に向上させた。
• Ubuntuにおける人間評価では、MrRNNが生成した応答が、HRED、VHRED、および標準LSTMモデルの応答よりも関連性が高く、文脈的に適切であると評価された。
• 結合対数尤度目的関数は、モデルが高レベルの対話的構造を学習するよう効果的にバイアスをかけることができ、不条理な応答や話題外れの応答の生成を減らした。
• 特に複雑で複数ターンの対話において、長期依存関係を捉える能力とスパarsityの緩和能力に優れた性能を示した。
• アブレーションスタディーでは、粗いトークンシーケンスが性能に不可欠であることが確認され、その削除により自動評価および人間評価スコアが顕著に低下した。