[論文レビュー] Extending Neural Generative Conversational Model using External Knowledge Sources

Prasanna Parthasarathi, Joëlle Pineau|arXiv (Cornell University)|Sep 14, 2018

Topic Modeling参考文献 21被引用数 7

ひとこと要約

本稿では、Wikipedia要約やNELL知識ベースなどの非構造的外部知識をニューラル生成対話モデルに統合することで、応答の整合性と学習効率を向上させる拡張エンコーダ-デコーダ（Ext-ED）アーキテクチャを提案する。デコード中に外部コンテキストベクトルを予測・利用するように学習させることで、ベースラインのSeq2Seqモデルと比較して、より速い収束と低いパープレキシティ（NELL KBを用いた場合29.07）を達成する。

ABSTRACT

The use of connectionist approaches in conversational agents has been progressing rapidly due to the availability of large corpora. However current generative dialogue models often lack coherence and are content poor. This work proposes an architecture to incorporate unstructured knowledge sources to enhance the next utterance prediction in chit-chat type of generative dialogue models. We focus on Sequence-to-Sequence (Seq2Seq) conversational agents trained with the Reddit News dataset, and consider incorporating external knowledge from Wikipedia summaries as well as from the NELL knowledge base. Our experiments show faster training time and improved perplexity when leveraging external knowledge.

研究の動機と目的

• 現在の生成対話モデルが一貫性があり内容の豊かな応答を生成する点で抱える限界を解消するため、外部知識ソースを統合すること。
• 構造的および非構造的知識を補助的コンテキストとして活用することで、学習時間を短縮し、モデルの収束を促進すること。
• Wikipedia要約とNELL KBといった異なる外部知識ソースがモデル性能および学習ダイナミクスに与える影響を評価すること。
• 外部知識が会話コンテキストに加えて補完的シグナルを提供し、会話履歴だけでは得られない応答生成を改善できるかを検討すること。
• 複雑なメモリ機構を必要とせずに、エンドツーエンドで学習可能な生成モデルに非構造的知識ソースを適用する可能性を検討すること。

提案手法

• Wikipedia要約やNELL KBといった知識ソースから学習される外部コンテキストベクトル $\bm{ec^{i}}$ を導入することで、標準的なSeq2Seqアーキテクチャを拡張する。
• 外部コンテキストの有用な表現を学習するよう促す知識予測損失 $\mathcal{L}_3$ を含むマルチタスク損失関数でモデルを学習する。
• 推論段階では、エンコードされた会話コンテキストと予測された $\bm{ec^{i}}$ ベクトルの両方に条件づけてデコーダを動作させ、より情報に基づいた応答を生成する。
• 外部知識を連続的 $\mathbb{R}^{100}$ ベクトル空間にマップするための学習済みプロジェクションヘッドを用いることで、RNNデコーダとの互換性を確保する。
• $\mathcal{L}_3$ のバックプロパゲーションを適用することで、モデルが外部コンテキストを効果的に利用することを保証し、学習中にその無視を回避する。
• 外部コンテキストベクトルを $\mathcal{N}(4,1)$ でスケーリングすることで、分散を増やし、入力として使用する際の情報量を向上させる。

実験結果

リサーチクエスチョン

• RQ1 Wikipedia や NELL KB といった非構造的ソースからの外部知識は、生成された対話応答の整合性と内容の豊かさを向上させることができるか？
• RQ2 標準的なSeq2Seqモデルと比較して、外部知識を統合することで学習時間を短縮し、モデルの収束を加速させることができるか？
• RQ3 外部知識ベクトルの分散は、応答生成プロセスの条件付けに与える有用性にどのように影響するか？
• RQ4 外部知識と会話コンテキストのどちらが、次の発話の予測において相対的に寄与しているか？
• RQ5 複雑なメモリ機構を必要とせず、単純で学習可能な外部コンテキストベクトルが、性能を維持したまま対話モデルに代わることができるか？

主な発見

• Ext-EDモデルはNELL KBを用いた場合29.07、Wikipedia要約を用いた場合30.26のパープレキシティを達成し、ベースラインのSeq2Seqモデル（38.09）と比較して顕著に低い値を示しており、応答予測の正確性が向上していることを示している。
• 知識予測損失 $\mathcal{L}_3$ を含むモデルは、アブレーションバージョンよりも優れた性能を示しており、$\mathcal{L}_3$ を通じた勾配逆伝播により、モデルが外部コンテキストを効果的に学習・利用できていることが裏付けられている。
• $\mathcal{N}(4,1)$ を用いた外部コンテキストベクトルのスケーリングにより分散が増加し、モデル性能の向上と、学習中に外部コンテキストを無視するのを防ぐ効果が得られた。
• NELL KB ベクトルの分散は1.44、Wikipedia ベクトルは0.73であり、平均からの平均距離もNELL（2.16）がWikipedia（0.77）よりも大きいことから、Wikipedia ベクトルは分散が小さく、情報量が低いことが示された。
• アブレーションモデル（$\mathcal{L}_3$ を含まない）のパープレキシティは601.8であった。外部コンテキストが適切に統合されない場合、モデルは意味のある応答を生成できず、知識損失の重要性が浮き彫りになった。
• 外部知識を統合したモデルは、ベースライン（0.437）と比較して、より速い収束と向上したBLEU-4スコア（NELL KBを用いた場合0.525）を示しており、生成応答の流暢さと関連性の向上が裏付けられた。