[論文レビュー] Dialogue State Tracking with Pretrained Encoder for Multi-domain Trask-oriented Dialogue Systems.

Dingmin Wang, Chenghua Lin+2 more|arXiv (Cornell University)|Apr 22, 2020

Speech and dialogue systems参考文献 7被引用数 8

ひとこと要約

本論文は、DSTを3つのサブタスクに分解し、ドメインガイドドメカニズムを用いた事前学習言語エンコーダーを活用することで、既知および未知のスロット値の追跡を向上させる、新しいマルチドメイン対話状態追跡モデルを提案する。MultiWOZデータセットにおいて、最先端の性能を達成し、先行手法を上回る追跡精度を示した。

ABSTRACT

In task-oriented dialogue systems, Dialogue State Tracking (DST) is a core component, responsible for tracking users' goals over the whole course of a conversation, which then are utilized for deciding the next action to take. Recently proposed approaches either treat DST as a classification task by scoring all enumerated slot value pairs, or adopt encoder-decoder models to generate states, which fall short in tracking unknown slot values or hold a high computational complexity. In this work, we present a novel architecture, which decomposes the DST task into three sub-tasks to jointly extract dialogue states. Furthermore, we enhance our model with a pretrained language model and introduce domain-guided information to avoid predicting slots not belonging to the current domain. Experimental results on a multi-turn multi-domain dataset (MultiWoz) demonstrate the effectiveness of our proposed model, which outperforms previously reported results.

研究の動機と目的

• 既存のDST手法が未知スロット値の処理に苦労したり、高い計算コストを伴うという限界を解消すること。
• 3つのサブタスクに分解することで、マルチドメイン・マルチターン対話における対話状態追跡を改善すること。
• 現在の対話ドメインに関係のないスロットの予測を防ぐために、ドメインガイドド情報を取り込むこと。
• 事前学習言語モデルを活用して、より良い状態追跡のための文脈表現学習を強化すること。

提案手法

• モデルは、対話状態追跡を3つのサブタスクに分解する：スロット検出、値検出、ドメイン認識スロット-値リンク。
• 対話履歴の豊かな文脈表現を捉えるために、事前学習言語モデル（例：BERT）をエンコーダーとして採用する。
• 現在のドメイン外のスロット値の予測を抑制するために、ドメインガイドドアテンションメカニズムを導入する。
• スロットと値の間の整合性を向上させるために、3つのサブタスクを統一された損失関数で同時に最適化する。
• ドメイン固有のマスキングを介して制約を課すことで、スロット-値ペアスコアリング機構を用いて最終的な対話状態を予測する。
• マルチタスク学習の目的関数に従い、MultiWOZデータセット上でエンドツーエンドにモデルを訓練する。

実験結果

リサーチクエスチョン

• RQ1 DSTを3つのサブタスクに分解することで、マルチドメイン・マルチターン対話における追跡パフォーマンスが向上するか？
• RQ2 事前学習言語モデルの統合が、状態追跡のための複雑な対話文脈を捉える能力をどの程度向上させるか？
• RQ3 ドメインガイドド情報の統合が、関係のないもしくはドメイン外のスロット値の予測をどの程度低減するか？
• RQ4 従来の分類ベースや生成ベースのアプローチと比較して、提案手法は未知またはレアなスロット値への一般化性をどの程度向上させるか？

主な発見

• 提案モデルは、MultiWOZベンチマークで最先端のパフォーマンスを達成し、以前に報告された結果を上回った。
• 事前学習言語モデルの使用により、モデルの長距離依存関係や文脈の微細なニュアンスを捉える能力が顕著に向上した。
• ドメインガイドドメカニズムは、現在の対話ドメインに属さないスロット値の予測を効果的に低減した。
• DSTを3つのサブタスクに分解することで、統合分類やシーケンス生成手法と比較して、より正確で頑健なスロット-値対応が実現された。
• 事前学習エンコーダーによるより良い文脈表現のおかげで、希少または未学習のスロット値への一般化性能が向上した。
• 全体的なアーキテクチャは、以前の手法よりも高い精度を達成しながらも、妥当な計算効率を維持した。