[論文レビュー] Knowledge Aware Conversation Generation with Explainable Reasoning over Augmented Graphs

Zhibin Liu, Zheng-Yu Niu+2 more|arXiv (Cornell University)|Mar 25, 2019

Topic Modeling参考文献 26被引用数 11

ひとこと要約

本稿では、factoid知識トリプルと非factoidテキストを拡張知識グラフに統合することで、オープンドメイン会話における説明可能でマルチホップ推論を実現する、知識に配慮した対話システムAKGCMを提案する。強化学習に基づくグラフ推論と機械読解技術を組み合わせることで、長文の頂点を活用し、2つのベンチマークで最先端の性能と向上した説明可能性を達成した。

ABSTRACT

Two types of knowledge, triples from knowledge graphs and texts from documents, have been studied for knowledge aware open-domain conversation generation, in which graph paths can narrow down vertex candidates for knowledge selection decision, and texts can provide rich information for response generation. Fusion of a knowledge graph and texts might yield mutually reinforcing advantages, but there is less study on that. To address this challenge, we propose a knowledge aware chatting machine with three components, an augmented knowledge graph with both triples and texts, knowledge selector, and knowledge aware response generator. For knowledge selection on the graph, we formulate it as a problem of multi-hop graph reasoning to effectively capture conversation flow, which is more explainable and flexible in comparison with previous work. To fully leverage long text information that differentiates our graph from others, we improve a state of the art reasoning algorithm with machine reading comprehension technology. We demonstrate the effectiveness of our system on two datasets in comparison with state-of-the-art models.

研究の動機と目的

• 従来の知識に配慮した対話システムが、構造化されたトリプルまたは非構造化テキストを個別に利用するという限界を是正すること。
• 拡張知識グラフ上でトレーサブルなマルチホップ推論経路を可能にすることで、モデルの説明可能性を向上させること。
• グラフの頂点に埋め込まれた長文テキスト知識を十分に活用することで、応答生成の品質を向上させること。
• 対話における知識選択に機械読解技術とグラフ推論を統合する有効性を実証すること。

提案手法

• 非構造化テキスト（例：映画レビュー、記述文など）をfactoid知識グラフ内のエンティティにアライメントすることで、長文テキストを頂点に含む拡張知識グラフを構築する。
• 深層強化学習エージェント（MINERVAにインspired）を用いて、マルチホップグラフ推論問題として知識選択を定式化し、グラフを走査して関連知識を選択する。
• 入力発話と候補知識頂点間の微細な意味的マッチングを実現するため、機械読解（MRC）技術を推論プロセスに統合する。
• 選択精度の向上を図るため、入力メッセージと知識テキストコンテンツの間の相互作用をモデル化する二重線形アテンション機構を用いる。
• 選択された知識を条件として応答生成を行うエンコーダ・デコーダアーキテクチャを採用する。
• 2段階パイプラインを実装する：まずグラフ推論による知識選択を行い、その後選択された知識を用いた応答生成を行う。

実験結果

リサーチクエスチョン

• RQ1 非構造化テキストを知識グラフに統合することで、オープンドメイン対話システムにおける応答品質が向上するか？
• RQ2 拡張知識グラフ上でマルチホップグラフ推論を実施することで、ブラックボックスなアテンション機構と比較してモデルの説明性がどのように向上するか？
• RQ3 頂点に長文テキストが含まれる状況で、機械読解技術を統合することで、知識選択がどの程度改善されるか？
• RQ4 低リソース設定下でも、提案手法は強力なベースラインより一般化性能に優れているか？
• RQ5 モデルは文脈に応じた推論パターン（例：意見尋ね系クエリに対してコメント風の頂点を選択する）を学習できるか？

主な発見

• 完全なAKGCMモデルは、2つのオープンドメイン対話データセットで最先端の性能を達成し、BLEUおよびROUGEスコアで既存モデルを上回った。
• 拡張グラフから非factoid知識を除去すると、性能が顕著に低下し、長文知識が応答生成において重要な役割を果たしていることが確認された。
• アブレーションスタディの結果、MRCモジュールと二重線形アテンション機構の両方が知識選択精度に顕著な寄与をしており、いずれかを除去すると性能が低下した。
• 低リソース条件下でも、AKGCMは最も強力なベースライン（BiDAF+G）よりも一般化性能に優れており、学習データの10％のみでも、妥当な性能を維持した。
• モデルは文脈に応じた推論パターン（例：意見関連クエリに対してコメントタイプの頂点を選択する）を学習しており、解釈可能性と適応性を示した。
• 推論中に走査されたグラフパスは意味的に意味のあるものであり、会話の流れを反映しており、システムの説明可能性が妥当であることを裏付けた。