[論文レビュー] Dynamic Fusion Network for Multi-Domain End-to-end Task-Oriented Dialog

Libo Qin, Xu Xiao+3 more|arXiv (Cornell University)|Apr 23, 2020

Speech and dialogue systems参考文献 18被引用数 8

ひとこと要約

本稿では、共有ドメイン知識とプライベートドメイン知識を明示的にモデル化するための共有プライベートアーキテクチャを備えた動的ファージョンネットワーク（DF-Net）を提案する。動的ファージョン機構により、学習可能なゲートを介してドメイン間の関連性を自動で学習し、限定的な訓練データのもとで低リソースドメインの性能を顕著に向上させ、先行SOTAモデル比で平均13.9%の向上を達成した。

ABSTRACT

Recent studies have shown remarkable success in end-to-end task-oriented dialog system. However, most neural models rely on large training data, which are only available for a certain number of task domains, such as navigation and scheduling. This makes it difficult to scalable for a new domain with limited labeled data. However, there has been relatively little research on how to effectively use data from all domains to improve the performance of each domain and also unseen domains. To this end, we investigate methods that can make explicit use of domain knowledge and introduce a shared-private network to learn shared and specific knowledge. In addition, we propose a novel Dynamic Fusion Network (DF-Net) which automatically exploit the relevance between the target domain and each domain. Results show that our model outperforms existing methods on multi-domain dialogue, giving the state-of-the-art in the literature. Besides, with little training data, we show its transferability by outperforming prior best model by 13.9\% on average.

研究の動機と目的

• エンドツーエンドのタスク指向対話システムにおける低リソースドメインへの適応の課題に対処すること。
• 一般化を向上させるために、複数ドメインにまたがる共有知識とプライベート知識を明示的にモデル化すること。
• 知識移行のためのドメイン間の微細な関連性を動的に捉えるメカニズムを開発すること。
• 関連するソースドメインからの知識を活用して、未学習または低リソースドメインでもモデル性能を向上させること。
• 限定的な訓練データのもとで、既存手法を上回る性能をマルチドメイン対話ベンチマークで達成すること。

提案手法

• モデルは、ドメイン共有およびドメイン固有の特徴を別々に学習するための共有プライベートネットワークアーキテクチャを採用する。
• 動的ファージョンモジュールを導入し、ゲート機構を用いて各ターゲットドメインに適した関連するソースドメイン特徴を選択的に計算する注意重みを算出する。
• 動的ファージョン機構は、エンコーダーおよびデコーダー、さらにKB特徴抽出のためのメモリモジュールに対しても適用される。
• 敵対的訓練を用いて、共有モジュールが真正にドメイン共有の表現を生成するよう促進する。
• ドメイン固有の知識を統合しつつ、関連性に基づく動的統合を可能にする、Mix-of-Experts（MoE）にインspiredなメカニズムを活用する。
• モデルは、応答生成と知識の根拠付けの両方を同時に最適化する統合的最適化に基づき、マルチドメイン対話データセット上でエンドツーエンドで訓練される。

実験結果

リサーチクエスチョン

• RQ1 マルチドメインエンドツーエンドタスク指向対話において、ドメイン共有知識とドメイン固有知識を効果的にモデル化する方法は何か？
• RQ2 動的ファージョン機構は、高リソースドメインから低リソースドメインへの知識移行を改善できるか？
• RQ3 ドメイン間の関連性は、データが少ない環境下でのモデル性能にどのように影響するか？
• RQ4 最小限のラベル付きデータで、未学習のドメインに一般化できるか？
• RQ5 微細なドメイン相関のモデリングは、応答の質と正確性にどのような影響を与えるか？

主な発見

• 提案されたDF-Netは、SMDおよびMultiWOZ 2.1ベンチマークの両方でSOTA性能を達成した。
• ナビゲーションドメインにおいては訓練データの5%のみを用いても、先行最高性能モデルを平均13.9%上回った。
• エキスパートゲート機構は、ナビゲーションタスクにおいて、天気よりもスケジューリングがより関連性が高いと判断し、高い重みを割り当てた。
• 事例研究により、例えばナビゲーションとスケジューリングにおける「場所」や「セット」のような意味的に類似したドメイン間で、知識が正しく移行されていることが確認された。
• 人的評価では、正しさ、流暢さ、人間らしさの観点でGLMPを上回り、5段階スケールで平均4.0以上のスコアを記録した。
• 微細なドメイン相関を活用することで、新規ドメインへのゼロショットおよびフェイシュット適応性が顕著に向上した。