[論文レビュー] A Probabilistic End-To-End Task-Oriented Dialog Model with Latent Belief States towards Semi-Supervised Learning

Yichi Zhang, Zhijian Ou+2 more|arXiv (Cornell University)|Sep 17, 2020

Topic Modeling参考文献 40被引用数 4

ひとこと要約

本稿では、信念状態を潜在変数として扱う確率的エンドツーエンドのタスク指向対話モデルであるLABESを提案する。このモデルは、ラベルなし対話データを用いた半教師あり学習を可能にし、MultiWOZではアノテーション要件を50%削減しながら性能に損失がない。変分推論とコピーオプティマイズドSeq2Seqアーキテクチャ（LABES-S2S）を活用することで、ベンチマークデータセットで最先端の性能を達成する。

ABSTRACT

Structured belief states are crucial for user goal tracking and database query in task-oriented dialog systems. However, training belief trackers often requires expensive turn-level annotations of every user utterance. In this paper we aim at alleviating the reliance on belief state labels in building end-to-end dialog systems, by leveraging unlabeled dialog data towards semi-supervised learning. We propose a probabilistic dialog model, called the LAtent BElief State (LABES) model, where belief states are represented as discrete latent variables and jointly modeled with system responses given user inputs. Such latent variable modeling enables us to develop semi-supervised learning under the principled variational learning framework. Furthermore, we introduce LABES-S2S, which is a copy-augmented Seq2Seq model instantiation of LABES. In supervised experiments, LABES-S2S obtains strong results on three benchmark datasets of different scales. In utilizing unlabeled dialog data, semi-supervised LABES-S2S significantly outperforms both supervised-only and semi-supervised baselines. Remarkably, we can reduce the annotation demands to 50% without performance loss on MultiWOZ.

研究の動機と目的

• エンドツーエンドのタスク指向対話システムにおける高コストなターンレベルの信念状態アノテーションへの依存を低減すること。
• 潜在変数モデリングを通じて、ラベルなし対話データを活用した効果的な半教師あり学習を可能にすること。
• 信念状態の推論とシステム応答の生成を同時に実行する確率的生成モデルの開発。
• ラベルなし対話データに、明示的なアノテーションがなくても利用可能な特徴が含まれることを示すこと。
• 特にリソースが限られた環境において、顕著に減少したアノテーション要件で強力な性能を達成すること。

提案手法

• 対話システムを条件付き生成モデルとして定式化：pθ(b1:T, r1:T | u1:T)，ここで信念状態b1:Tは潜在変数である。
• ラベル付きとラベルなしデータの混合データ上で最適化するための変分推論フレームワークを採用。
• エンドツーエンドの応答生成と信念状態追跡のためのコピーオプティマイズドシーケンスツーセクエンス実装であるLABES-S2Sを導入。
• アテンションメカニズムとコピーメカニズムを用いてスロット値を保持し、応答のなめらかさを向上。
• 語の繰り返しやクエリ結果といった、ユーザー入力とシステム応答内の暗黙の手がかりを活用して信念状態推論を支援。
• 変分学習フレームワーク内に事後正則化とオートエンコーダー目的関数を適用し、一般化性能を向上。

実験結果

リサーチクエスチョン

• RQ1 信念状態を潜在変数として効果的にモデリングすることで、アノテート済み学習データへの依存を低減できるか？
• RQ2 ラベルなし対話データは、エンドツーエンド対話システムにおける信念状態追跡と応答生成をどの程度向上できるか？
• RQ3 低リソース環境下で、提案された半教師あり学習フレームワークは、教師ありのみおよび先行の半教師ありベースラインと比較してどのように差をつけるか？
• RQ4 特にMultiWOZのような大規模ベンチマークで、学習データを50%に削減しても、モデルは性能を維持または向上できるか？
• RQ5 ユーザー入力とシステム応答内の暗黙の手がかりは、明示的なアノテーションなしで信念状態推論をどのように向上させるか？

主な発見

• LABES-S2SはCamRest676およびIn-Carで最先端の共同目標認識精度を達成し、MultiWOZ 2.1では非事前学習モデルを上回る性能を示した。
• 半教師ありのLABES-S2Sは、3つのベンチマークデータセットすべてで、教師ありのみおよび先行の半教師ありベースラインを顕著に上回った。
• MultiWOZでは、50%のラベル付きデータで49.47%の共同目標認識精度を維持した一方で、100%ラベル付きデータでは50.05%であったため、アノテーションコストを50%に削減しても性能に損失がないことが示された。
• モデルは、性能劣化を伴わずにMultiWOZで約30,000件の信念状態アノテーションを削減した。
• ラベル付きデータが限られる状況では、半教師ありバージョンがより大きな性能向上を示し、特に10%のラベル割合で最大の改善が観察された。
• 事例研究では、半教師あり学習が、'British'などのキーワードを学習することでユーザーの暗黙の目的を捉え、誤りの伝搬を回避する応答品質の向上を可能にした。