[論文レビュー] Teacher-Student Framework Enhanced Multi-domain Dialogue Generation

Shuke Peng, Xinjing Huang+4 more|arXiv (Cornell University)|Aug 20, 2019

Speech and dialogue systems参考文献 19被引用数 22

ひとこと要約

本稿では、外部の状態トラッカーを不要にするために、ドメイン固有の教師モデルから汎用的な学生モデルへ知識を蒸留する教師-学生フレームワークを提案する。学生モデルは生のテキストから直接応答を生成し、トラッカーの誤り伝播を回避しながら、ラベル付きの意味的データを用いた蒸留によって優れた成功率および情報提供率を達成する。これは、手動で状態をアノテートするモデルと同等またはそれを上回る性能を発揮する。

ABSTRACT

Dialogue systems dealing with multi-domain tasks are highly required. How to record the state remains a key problem in a task-oriented dialogue system. Normally we use human-defined features as dialogue states and apply a state tracker to extract these features. However, the performance of such a system is limited by the error propagation of a state tracker. In this paper, we propose a dialogue generation model that needs no external state trackers and still benefits from human-labeled semantic data. By using a teacher-student framework, several teacher models are firstly trained in their individual domains, learn dialogue policies from labeled states. And then the learned knowledge and experience are merged and transferred to a universal student model, which takes raw utterance as its input. Experiments show that the dialogue system trained under our framework outperforms the one uses a belief tracker.

研究の動機と目的

• 状態トラッカーの限界を解消すること。特に、複雑で高オントロジーな状況下で誤り伝播が生じ、性能が低下する問題に起因する。
• 人間がラベル付けした意味的データを活用しながらも、入力として生のテキストのみを用いるエンドツーエンドの対話生成を可能にすること。
• 外部の信念トラッキングに依存せずに、複数のドメイン固有の教師モデルから学習し、一般化する対話方針を学習する汎用的な学生モデルの開発。
• 教師モデルから統合された学生アーキテクチャへ構造化された知識を転送することで、マルチドメイン環境における対話の成功率と情報提供率を向上させること。

提案手法

• 人間がアノテートした状態を用いて、ラベル付き対話データ上でドメイン固有の教師モデルを学習させ、対話方針と意味的表現を学習する。
• 知識蒸留を用いて、教師モデルの出力分布および方針意思決定を、1つの汎用的である学生モデルに転送する。
• 2段階の蒸留を適用する：出力蒸留（応答生成）と方針蒸留（行動/意思決定のガイドライン）、上位k個のトークン選択を用いて重要な情報を保持する。
• 出力蒸留（α₁ = 0.01）と方針蒸留（α₂ = 0.05）の重み付き損失を最適化し、応答品質と対話方針の正確性のバランスを取る。
• 学生モデルを生の発話文からエンドツーエンドで学習させ、明示的な信念状態トラッキングや人間が定義したスロット表現の必要性を回避する。
• 評価には MultiWOZ ベンチマークを用い、マルチドメインおよびシングルドメインの両設定で成功率、情報提供率、BLEU-4 スコアを測定する。

実験結果

リサーチクエスチョン

• RQ1 外部の状態トラッキングに依存せずに、複数の教師モデルからドメイン固有の対話知識を汎用的な学生モデルへ効果的に転送できるか？
• RQ2 出力と対話方針意思決定の両方を蒸留することで、単一の蒸留形式に比べ、対話の成功率と情報提供率が向上するか？
• RQ3 top-k 蒸留の選択が、成功率および情報提供率の観点から学生モデルの性能に与える影響は何か？
• RQ4 人間が定義した状態に依存せずに学習された学生モデルが、外部信念トラッカーを用いるモデルを上回る性能を発揮できるか？
• RQ5 個別のドメイン固有の教師による指導が、レストラン予約のような特定ドメインにおいて、どの程度性能向上に寄与するか？

主な発見

• 提案された HRED-TS モデルは、蒸留なしのベースライン HRED モデルと比較して、成功率および情報提供率の両方で4%の向上を達成し、外部信念トラッカーを用いるモデルをも上回る。
• レストランドメインでは、手動状態入力を用いるモデルでさえも上回り、専用の教師モデルからの強力なドメイン固有の知識転送が示された。
• top-k 蒸留において k=128 が最良の性能を示したが、k=1 では異常な結果が得られ、過度に制限された蒸留が知識転送を制限することが示された。
• 出力蒸留のみで情報提供率が最も高かったが、方針蒸留と出力蒸留を併用すると成功率は向上するが、情報提供率はわずかに低下した。これは、方針ガイドラインに伴うトレードオフがあることを示唆している。
• 単一の汎用的教師モデルを用いた蒸留は、個別のドメイン固有の教師を用いる場合より性能が劣り、教師-学生フレームワークにおけるドメイン固有知識の利点を裏付けた。
• GCE 状態トラッカーを用いたモデルは、手動状態入力よりも情報提供率が高かったが、これはラベル付けにおけるドメイン干渉に起因するものであり、優れた性能の証拠ではない。