[論文レビュー] Efficient Context and Schema Fusion Networks for Multi-Domain Dialogue State Tracking

Su Zhu, Jieyu Li+2 more|arXiv (Cornell University)|Apr 7, 2020

Topic Modeling参考文献 44被引用数 23

ひとこと要約

本稿では、内部および外部のアテンションメカニズムを用いて対話文脈とスキーマグラフを統合的に符号化する、コンテキストとスキーマ統合ネットワーク（CSFN-DST）を提案する。ドメイン-スロット関係からの事前知識を活用し、予測された以前の状態を用いて文脈を効率的にモデル化することで、MultiWOZ 2.0および2.1で最先端の性能を達成し、強力なベースラインを上回り、スキーマグラフを統合することで以前のSOTA（SOM-DST）をさらに改善する。

ABSTRACT

Dialogue state tracking (DST) aims at estimating the current dialogue state given all the preceding conversation. For multi-domain DST, the data sparsity problem is a major obstacle due to increased numbers of state candidates and dialogue lengths. To encode the dialogue context efficiently, we utilize the previous dialogue state (predicted) and the current dialogue utterance as the input for DST. To consider relations among different domain-slots, the schema graph involving prior knowledge is exploited. In this paper, a novel context and schema fusion network is proposed to encode the dialogue context and schema graph by using internal and external attention mechanisms. Experiment results show that our approach can obtain new state-of-the-art performance of the open-vocabulary DST on both MultiWOZ 2.0 and MultiWOZ 2.1 benchmarks.

研究の動機と目的

• 膨大な数のドメイン-スロットペアと長い対話履歴に起因するデータスパarsityを解消する。
• すべての以前の発話ではなく、単に以前に予測された対話状態と現在の発話を用いることで、文脈符号化を改善する。
• ドメイン-スロット関係をスキーマグラフで表現し、依存関係をモデル化し、データのアンバランスを緩和する。
• 系列モデリングとグラフベースの関係的インダクティブバイアスを組み合わせることで、オープンボキャラリーな値予測を可能にする。
• アテンションメカニズムを用いて対話文脈とスキーマ構造を統合的に符号化することで、モデルの一般化性能と性能を向上させる。

提案手法

• ドメイン、スロット、ドメイン-スロットノードを含むスキーマグラフを構築し、事前知識を符号化する。
• 内部アテンションを用いて、以前の状態と現在の発話で表される対話文脈内の依存関係をモデル化する。
• 外部アテンションを用いて、対話文脈とスキーマグラフをアライメントさせ、両者からの情報を統合する。
• 内部および外部アテンションを用いて、各ドメイン-スロットノードの表現を反復的に精緻化する多層統合ネットワークを採用する。
• スロットゲート分類器を用いてスロットが言及されたか（NONEまたはDONTCAREを含む）を判断し、その後にオープンボキャラリーな値生成のためのRNNベースのデコーダーを適用する。
• 主に共同ゴール精度を最適化指標として、必要に応じてBERTを用いて文脈符号化を行うエンドツーエンドの学習を実施する。

実験結果

リサーチクエスチョン

• RQ1 ドメイン-スロット関係を符号化するスキーマグラフは、データスパarsity下でのマルチドメイン対話状態追跡性能を向上させるか？
• RQ2 内部および外部アテンションを用いた対話文脈とスキーマ情報の統合は、ドメイン-スロットペアの表現学習をどのように向上させるか？
• RQ3 完全な履歴ではなく、単に以前に予測された対話状態のみを用いることで、精度を損なわず効率性が向上するか？
• RQ4 提案されたスキーマグラフは、SOM-DSTのような既存のSOTAモデルに統合可能で、さらなる性能向上をもたらすか？
• RQ5 スロットゲート分類器とRNNベースのデコーダーは、多様なドメインにわたるオープンボキャラリーな値予測に対してどれほど効果的か？

主な発見

• 提案されたCSFN-DSTは、MultiWOZ 2.1で53.19%の共同ゴール精度を達成し、強力なベースラインを上回り、新たなSOTAを樹立した。
• アブレーションスタディの結果、文脈符号化とスキーマグラフ統合の両方が不可欠であり、特にスキーマグラフが性能向上に寄与していることが確認された。
• スキーマグラフは、以前のSOTA手法SOM-DSTを改善し、MultiWOZ 2.0では52.23%、MultiWOZ 2.1では53.19%の共同精度に向上させた。
• スロットゲート分類器は高いF1スコア（NONE: 99.19、PTR: 98.05）を達成したが、DONTCARE検出は依然として挑戦的であり（BERTを用いたF1: 75.96）、改善の余地がある。
• オラクル実験の結果、真の以前の対話状態が与えられた場合、共同精度はほぼ80%に達するため、トレーニングと推論の不一致が主なボトルネックであると示唆された。
• BERTを用いた推論時間はバッチあたり840ms、パラメータ数は115Mであり、容量が増加したものの、妥当な効率性を示している。