[論文レビュー] MOSS: End-to-End Dialog System Framework with Modular Supervision

Weixin Liang, Youzhi Tian+2 more|arXiv (Cornell University)|Sep 12, 2019

Topic Modeling参考文献 19被引用数 5

ひとこと要約

MOSSは、共有エンコーダーと専用デコーダーを介して、自然言語理解、対話状態追跡、対話方針学習、自然言語生成のモジュラーな監視を統合するエンド・ツー・エンドで学習可能な対話フレームワークである。複雑なLaptopNetworkデータセットで40%の訓練データのみを用いても、MOSS-allはタスク完了率で最先端モデルを42%上回り、生成品質では7%上回っている。

ABSTRACT

A major bottleneck in training end-to-end task-oriented dialog system is the lack of data. To utilize limited training data more efficiently, we propose Modular Supervision Network (MOSS), an encoder-decoder training framework that could incorporate supervision from various intermediate dialog system modules including natural language understanding, dialog state tracking, dialog policy learning, and natural language generation. With only 60% of the training data, MOSS-all (i.e., MOSS with supervision from all four dialog modules) outperforms state-of-the-art models on CamRest676. Moreover, introducing modular supervision has even bigger benefits when the dialog task has a more complex dialog state and action space. With only 40% of the training data, MOSS-all outperforms the state-of-the-art model on a complex laptop network troubleshooting dataset, LaptopNetwork, that we introduced. LaptopNetwork consists of conversations between real customers and customer service agents in Chinese. Moreover, MOSS framework can accommodate dialogs that have supervision from different dialog modules at both the framework level and model level. Therefore, MOSS is extremely flexible to update in a real-world deployment.

研究の動機と目的

• エンド・ツー・エンド対話型タスク指向対話システムの訓練におけるデータ不足のボトル neck を解決すること。
• モジュラー・システムの利点（豊富な監視）とエンド・ツー・エンド訓練の利点（共同最適化）を統合し、データ効率を向上させること。
• モジュールのプラグアンドプレイ除去と段階的アノテーション統合を可能にすることで、実世界での柔軟な展開を可能にすること。
• モジュラー監視が、大きな行動空間と状態空間を有する複雑な対話タスクにおいて特に効果的であることを示すこと。

提案手法

• 共有エンコーダーが入力発話処理を行い、各対話モジュール（NLU、DST、DPL、NLG）が独自のデコーダーを有する統一されたエンコーダ・デコーダアーキテクチャを提案する。
• シンボリック出力ではなく共有隠れ状態を介してデコーダーを接続することで、共同最適化を可能にし、誤差伝搬を低減する。
• 各デコーダーが共有表現の関連部分に注目できるように、モジュラー注意力メカニズムを導入する。
• 特定のモジュールを削除したモデルインスタンス（例：MOSS w/o NLU、MOSS w/o DPL）のサポートにより、フレームワークレベルの柔軟性を実現する。
• 部分的なアノテーション（例：NLGのみ、またはDPLのみ）を同じフレームワークに供給可能にすることで、モデルレベルの適応性を実現する。
• 既存のアノテーションやヒューリスティクス（例：NLUのための状態差分、DPLのための正規表現ベースのデデカルライゼーション）を活用し、低コストで監視を生成する。

実験結果

リサーチクエスチョン

• RQ1 複数の中間対話モジュールからの監視統合が、エンド・ツー・エンド対話訓練におけるデータ効率を向上させるか？
• RQ2 大規模な状態空間と行動空間を有する複雑な対話タスクにおいて、モジュラー監視は単純な情報抽出タスクと比較して、性能にどのように影響を与えるか？
• RQ3 部分的なアノテーションを用いた段階的モデル更新を、実世界の展開において柔軟でプラグアンドプレイなフレームワークがどの程度サポートできるか？
• RQ4 対話方針学習と自然言語理解の監視を組み込むことで、必要なアノテート済み対話の数を著しく削減できるか？

主な発見

• CamRest676データセットにおいて、MOSS-allは訓練データの60%での学習でも、TSCPを含む最先端モデルを上回った。
• 複雑なLaptopNetworkデータセットにおいて、MOSS-allは40%の訓練データで、最先端モデルよりも42%高いタスク完了率（Succ.acc）を達成した。
• MOSS-allは、対話方針学習の監視によるガイダンスのおかげで、最先端モデルよりも生成品質を7%向上させた。
• 対話方針学習モジュールを削除した（MOSS w/o DPL）場合、対話状態追跡の正確性が低下し、BLEUスコアも低くなった。これは、そのモジュールが調整において重要な役割を果たしていることを示している。
• 自然言語理解モジュールを削除した（MOSS w/o NLU）場合、すべての下流タスクで性能が悪化した。これは、意味的入力の喪失に起因する。
• 事例研究では、TSCPはNLUおよびDPLの監視が不足しているため、単調な反復応答を繰り返す傾向にあったが、MOSS-allは文脈的に適切で目標指向の応答を生成した。