[論文レビュー] Improving Knowledge-aware Dialogue Generation via Knowledge Base Question Answering

Jian Wang, Junhao Liu+5 more|arXiv (Cornell University)|Dec 16, 2019

Topic Modeling参考文献 28被引用数 5

ひとこと要約

本稿では、知識ベース質問応答（KBQA）から質問理解および知識選択能力を転移することで、オープンドメイン対話における事実的整合性を向上させる、知識に配慮した対話生成モデルTransDGを提案する。事前学習済みKBQAモデル、応答誘導型アテンション、マルチステップデコード戦略を統合することにより、TransDGはより情報量が多く、文脈的に正確な応答を生成し、BLEUおよびエンティティ関連性スコアの面で、ベンチマークデータセットにおいて従来手法を大きく上回る性能を達成する。

ABSTRACT

Neural network models usually suffer from the challenge of incorporating commonsense knowledge into the open-domain dialogue systems. In this paper, we propose a novel knowledge-aware dialogue generation model (called TransDG), which transfers question representation and knowledge matching abilities from knowledge base question answering (KBQA) task to facilitate the utterance understanding and factual knowledge selection for dialogue generation. In addition, we propose a response guiding attention and a multi-step decoding strategy to steer our model to focus on relevant features for response generation. Experiments on two benchmark datasets demonstrate that our model has robust superiority over compared methods in generating informative and fluent dialogues. Our code is available at https://github.com/siat-nlp/TransDG.

研究の動機と目的

• 共通知識をオープンドメイン対話システムに統合する課題に対処すること。現行のモデルはしばしば流れの良いが事実的に浅い応答を生成する傾向がある。
• KBQAから質問表現および知識マッチング能力を転移させることで、発話理解と事実的知識選択を向上させ、対話応答の質を向上させること。
• 自己回帰的デコードにおけるグローバルな文脈の欠如を緩和するために、投稿と関連する知識および最終的な応答を結びつけるマルチステップデコード戦略を導入すること。
• 上位k個の類似応答候補を活用して特徴の集中を高める応答誘導型アテンションメカニズムを用いて、生成過程における特徴の焦点を強化すること。
• KBQAからの知識転移が、生成された対話の情報量および事実的正確性を顕著に向上させられることを実証すること。

提案手法

• 質問と候補となる答えのためのエンコーディング層、および知識ベースから関連する事実を抽出するための知識選択層を備えたKBQAモデルを事前学習する。
• 事前学習済みKBQAモデルの質問表現および知識選択モジュールを対話エンコーダーおよびデコーダーに転移させ、投稿理解と事実の検索を向上させる。
• 類似する投稿の上位k個の取得された応答を用いて、関連する特徴を抽出し、生成過程での注目を誘導する応答誘導型アテンションメカニズムを導入する。
• 2段階のデコード戦略を実装する：最初のデコーダーが関連するKB事実に基づいてドラフト応答を生成し、2番目のデコーダーが最初の段階の文脈および追加の知識マッチングを用いてそれを精緻化する。
• ゲート付き再帰ユニット（GRUs）をシーケンスエンコーディングに用い、KBQAからの拡張された質問表現を組み合わせることで、対話の投稿におけるエンティティおよび関係の認識を向上させる。
• 対話データセット上で、パープレクシティ、BLEUスコア、エンティティ関連性を最適化するように、モデル全体をエンドツーエンドで微調整する。

実験結果

リサーチクエスチョン

• RQ1 KBQAから質問表現および知識選択能力を転移させることで、対話生成における事実的知識統合が向上するか？
• RQ2 マルチステップデコード戦略は、知識の整合性の観点から、入力の投稿と生成された応答とのつながりをどのように向上させるか？
• RQ3 応答誘導型アテンションは、生成された応答の関連性および情報量をどの程度向上させるか？
• RQ4 各モジュール（KBQA転移、マルチステップデコード、応答誘導）が全体の対話品質に果たす寄与度はどの程度か？
• RQ5 直接的なKB検索ではなく、事前学習済みKBQAの能力を活用することで、知識に配慮した対話生成は顕著に改善できるか？

主な発見

• TransDGはパープレクシティ37.53を達成し、質問表現転送をしないアブレーションモデル（w/o QRT: 42.17）よりも顕著に低く、より優れたシーケンスモデリングを示している。
• エンティティスコア1.207を達成し、知識選択をしないアブレーションモデル（w/o KST: 0.774）を上回り、事実的知識の活用が向上していることを示している。
• BLEU-1スコア0.1807およびBLEU-2スコア0.0178は、基準応答との高い流れの良さおよびn-gramの整合性を示している。
• アブレーションスタディにより、KBQA転送モジュール（QRTおよびKST）を削除すると性能が最も著しく低下することが確認され、知識統合におけるその重要性が裏付けられている。
• 応答誘導型アテンション機構を導入したモデルは、w/o RGAバージョンと比較してBLEU-1が0.0103向上し、関連する特徴に注目する有効性が示された。
• マルチステップデコード戦略を除いたモデル（w/o SSD）はBLEU-1スコア0.1804を達成し、ほぼ完全モデルと同等の性能を示しており、応答品質への強力な寄与が確認された。