[論文レビュー] Generating Long and Diverse Responses with Neural Conversation Models

Louis Yuanlong Shao, Stephan Gouws+4 more|arXiv (Cornell University)|Apr 24, 2017

Topic Modeling被引用数 60

ひとこと要約

本稿では、応答の長さ、一貫性、多様性を向上させるために、ニューラル会話モデルのための新しいトレーニングおよびデコードフレームワークを提案する。デコーダーに自己注意機構を統合し、スケーラブルなトレーニングを可能にするグリムプモデルを導入し、セグメントごとの再ランク付けを伴う確率的ビームサーチを採用することで、より長く、一貫性があり、多様な応答を生成する。人的評価により、応答長にかかわらず優れた受容性と品質が確認された。

ABSTRACT

Building general-purpose conversation agents is a very challenging task, but necessary on the road toward intelligent agents that can interact with humans in natural language. Neural conversation models -- purely data-driven systems trained end-to-end on dialogue corpora -- have shown great promise recently, yet they often produce short and generic responses. This work presents new training and decoding methods that improve the quality, coherence, and diversity of long responses generated using sequence-to-sequence models. Our approach adds self-attention to the decoder to maintain coherence in longer responses, and we propose a practical approach, called the glimpse-model, for scaling to large datasets. We introduce a stochastic beam-search algorithm with segment-by-segment reranking which lets us inject diversity earlier in the generation process. We trained on a combined data set of over 2.3B conversation messages mined from the web. In human evaluation studies, our method produces longer responses overall, with a higher proportion rated as acceptable and excellent as length increases, compared to baseline sequence-to-sequence models with explicit length-promotion. A back-off strategy produces better responses overall, in the full spectrum of lengths.

研究の動機と目的

• ニューラル会話モデルにおける短く汎用的な応答の課題に対処すること。
• 長期間の対話生成における一貫性と多様性を向上させること。
• 大規模なウェブクロールド会話データセットにスケーラブルに適用可能なシーケンス・トゥ・シーケンスモデルをスケーリングすること。
• 生成プロセスの初期段階で多様性を促進するデコード戦略を開発すること。
• あらゆる応答長にわたる高い人間評価品質を達成すること。

提案手法

• 長期間の応答における一貫性を維持するために、デコーダーに自己注意機構を導入する。
• 23億件を超えるメッセージを含む大規模データセットでの効率的トレーニングを可能にするグリムプモデルを提案する。
• 生成の初期段階で多様性を注入するために、セグメントごとの再ランク付けを伴う確率的ビームサーチアルゴリズムを開発する。
• あらゆる長さの応答において品質を向上させるバックオフ戦略を採用する。
• ウェブマイニングされた会話メッセージの統合データセット上でエンド・ツー・エンドにトレーニングする。
• 人的評価を用いて応答の品質、長さ、受容性を評価する。

実験結果

リサーチクエスチョン

• RQ1 デコーダーに自己注意機構を導入することで、長期間の対話応答における一貫性が向上するか？
• RQ2 応答生成プロセスの初期段階で、多様性を効果的に注入する方法は何か？
• RQ3 グリムプモデルは、大規模な会話データセットにおけるスケーラブルなトレーニングを可能にするか？
• RQ4 提案されたデコード戦略は、より長く、高品質な応答を生成する際、ベースラインモデルを上回るか？
• RQ5 提案手法下での応答品質は、さまざまな長さにおいてどのように変化するか？

主な発見

• 明示的な長さ促進を伴うベースラインモデルと比較して、応答長が延びるにつれて、受容的・優れたと評価される割合が高くなる。
• 人的評価により、本手法は全長にわたる応答品質が優れており、特に一貫性と多様性において優れていることが示された。
• バックオフ戦略により、あらゆる応答長において一貫してベースラインを上回る全体的な応答品質が向上した。
• グリムプモデルにより、23億件を超える会話メッセージの効果的トレーニングが可能となり、スケーラビリティをサポートした。
• セグメントごとの再ランク付けを伴う確率的ビームサーチにより、生成された応答の多様性が成功裏に向上した。
• デコーダーにおける自己注意機構により、長期間の対話生成における一貫性が向上した。