[論文レビュー] CREDIT: Coarse-to-Fine Sequence Generation for Dialogue State Tracking

Zhi Chen, Lu Chen+4 more|arXiv (Cornell University)|Sep 22, 2020

Topic Modeling参考文献 31被引用数 11

ひとこと要約

CREDITは、ドメイン-スロット-値の三つ組みとして構造化されたシーケンスとして対話状態をモデル化する、粗いから細かい順のシーケンス生成フレームワークを提案する。まず粗い状態スケッチ（ドメイン-スロットペア）を予測し、その後コピーメカニズムを用いて精錬することで、O(1)の推論複雑度を達成する1ステップ生成を実現し、強化学習による微調整によって共同目標精度を向上させ、MultiWOZ 2.0および2.1においてBERTフリー手法を上回る性能を発揮する。

ABSTRACT

In dialogue systems, a dialogue state tracker aims to accurately find a compact representation of the current dialogue status, based on the entire dialogue history. While previous approaches often define dialogue states as a combination of separate triples ({\em domain-slot-value}), in this paper, we employ a structured state representation and cast dialogue state tracking as a sequence generation problem. Based on this new formulation, we propose a {\bf C}oa{\bf R}s{\bf E}-to-fine {\bf DI}alogue state {\bf T}racking ({\bf CREDIT}) approach. Taking advantage of the structured state representation, which is a marked language sequence, we can further fine-tune the pre-trained model (by supervised learning) by optimizing natural language metrics with the policy gradient method. Like all generative state tracking methods, CREDIT does not rely on pre-defined dialogue ontology enumerating all possible slot values. Experiments demonstrate our tracker achieves encouraging joint goal accuracy for the five domains in MultiWOZ 2.0 and MultiWOZ 2.1 datasets.

研究の動機と目的

• スロットごとの逐次生成による対話状態追跡の限界を解消し、スロット数に比例して推論複雑度が増加するのを防ぐ。
• 事前定義されたオントロジーに依存しないようにし、未学習のスロット値のエンドツーエンド生成を可能にする。
• 強化学習を用いて対話状態追跡（DST）の指標を直接最適化することで、共同目標精度を向上させる。
• 逐次スロット走査を回避する1ステップ生成モデルを設計し、O(1)の推論時間複雑度を実現する。
• 多ドメイン対話システムにおける構造化された状態表現を用いた粗いから細かい順のデコードの有効性を示す。

提案手法

• CREDITは、ドメイン-スロット-値の三つ組みを用いて対話履歴を構造化された状態シーケンスにマップするエンコーダ-デコーダアーキテクチャを採用する。
• モデルはまず、対話履歴のコンテキストに即した注目機構を用いて、ドメイン-スロットペアのみを含む粗い状態スケッチを粗いデコーダーが生成する。
• その後、細かい状態デコーダーは、対話履歴と粗いスケッチの両方に注目し、発話文から値を取得するコピーメカニズムを用いて完全な対話状態を生成する。
• 細かい状態デコーダーは二段階の注目機構を用いる：一つは粗いスケッチに対するもので、もう一つは対話履歴に対するもので、値の生成を集中的に制御する。
• モデルはまずクロスエントロピー損失を用いて事前学習され、その後、BLEUスコアを報酬としてポリシー勾配強化学習を用いて微調整され、共同目標精度を最適化する。
• 階層的エンコーダーは発話を別々に符号化した後、それらを統合することで、文脈モデリングを向上させる。

実験結果

リサーチクエスチョン

• RQ1 粗いから細かい順のシーケンス生成アプローチは、推論複雑度を低減しつつ、精度を維持または向上させることができるか？
• RQ2 ドメイン-スロット-値の三つ組みとしての構造化された状態表現は、複雑な対話状態を的確に捉えることができるか？
• RQ3 自然言語の指標（BLEU）を報酬として用いた強化学習は、エンドツーエンド対話状態追跡における共同目標精度を向上させることができるか？
• RQ4 コピーメカニズムは、未学習のスロット値を処理する際に顕著な性能向上をもたらすか？
• RQ5 階層的エンコーディング戦略は、多ターン対話文脈をモデル化する際にフラットエンコーディングに比べて優れているか？

主な発見

• CREDITはMultiWOZ 2.1で50.11%の共同目標精度を達成し、すべてのBERTフリー手法を上回り、この分野における新たな最先端性能を樹立した。
• アブレーションスタディの結果、粗いデコーダーを削除すると性能が著しく低下（50.11%から48.62%に低下）し、生成をガイドする役割の重要性が確認された。
• コピーメカニズムは性能に顕著な貢献を示し、非コピーベースラインと比較して共同目標精度が1.3%向上した。
• 階層的エンコーダーは、各コンponentの中で最大の性能向上をもたらし、削除すると精度が3.3%低下（46.82%に）した。
• CREDITはO(1)の推論時間複雑度を達成しており、スロット数が多くても効率的な処理が可能である。
• BLEUスコアを報酬として用いた強化学習による微調整は、教師あり事前学習のみに比べて性能を向上させ、指標に基づく最適化の有効性を示した。