[論文レビュー] Adversarial Domain Adaptation for Variational Neural Language Generation in Dialogue Systems

Van Khanh Tran, Le-Minh Nguyen|arXiv (Cornell University)|Aug 8, 2018

Topic Modeling参考文献 29被引用数 12

ひとこと要約

本稿では、低リソースのターゲットドメインにおける少データ会話生成を改善するため、敵対的ドメイン適応を組み込んだ変分ニューラル言語生成モデルを提案する。ソースドメインで事前学習した変分オートエンコーダーを、ソースコントローラーとドメインコントローラーの2つの敵対的コントローラーで微調整することで、高リソースドメインから低リソースドメインへ知識を効果的に転送する。限られたドメイン内データでの学習のみで最先端の性能を達成し、未観測のテレビドメインのテストセットで41.83のBLEUスコアと2.38のスロット誤り率を達成した。

ABSTRACT

Domain Adaptation arises when we aim at learning from source domain a model that can per- form acceptably well on a different target domain. It is especially crucial for Natural Language Generation (NLG) in Spoken Dialogue Systems when there are sufficient annotated data in the source domain, but there is a limited labeled data in the target domain. How to effectively utilize as much of existing abilities from source domains is a crucial issue in domain adaptation. In this paper, we propose an adversarial training procedure to train a Variational encoder-decoder based language generator via multiple adaptation steps. In this procedure, a model is first trained on a source domain data and then fine-tuned on a small set of target domain utterances under the guidance of two proposed critics. Experimental results show that the proposed method can effec- tively leverage the existing knowledge in the source domain to adapt to another related domain by using only a small amount of in-domain data.

研究の動機と目的

• ラベル付きターゲットドメインデータが乏しい状況におけるニューラル会話システムの低リソースドメイン適応の課題に対処すること。
• 高リソースのソースドメインからの事前学習済み知識を活用して、ゼロショットおよび少データ適応性能を向上させること。
• 多様で未観測のターゲットドメインに一般化可能な統合的変分ドメイン適応フレームワークを構築すること。
• 敵対的コントローラーが生成器がターゲットドメインに類似した発話を生成するのをどのように支援するかを調査すること。
• アブレーション、ドメイン適応、スクラッチからの学習、および非教師あり適応の複数のシナリオにおいて、手法の性能を評価すること。

提案手法

• 変分オートエンコーダー（VAE）を用いて、発話行動と発話の潜在空間をモデル化し、分離可能で連続的な表現学習を可能にする。
• 豊富なアノテーション付きデータを用いて、一般的な言語的および構造的パターンを学習できるよう、ソースドメインで事前学習を行う。
• 2つの敵対的コントローラーを導入する：ソースコントローラーはソースドメインの意味を保持し、ドメインコントローラーは生成器の出力分布をターゲットドメインに一致させる。
• 微調整段階では、再構成損失、KLダイバージェンス、および両方のコントローラーからの敵対的フィードバックをバランスさせる損失関数を用いて生成器を最適化する。
• 敵対的訓練手順により、分布シフトを最小限に抑えつつ意味の整合性を保ちながら、生成器がターゲットドメインに適応できる。
• 教師ありおよび非教師ありの両方の適応をサポートし、合成および実世界の会話データセットを用いて性能を評価する。

実験結果

リサーチクエスチョン

• RQ1 変分ニューラル言語生成器は、ドメイン内データが僅かである状況でも、新しい低リソースターゲットドメインに効果的に適応できるか？
• RQ2 敵対的コントローラーは、少データ会話生成におけるドメイン整合性の向上と分布シフトの低減にどのように寄与するか？
• RQ3 提案された変分ドメイン適応フレームワークは、未観測ドメインにおいてスクラッチからの学習や標準的な微調整を上回る性能を発揮するか？
• RQ4 モデルは、ソースドメインから意味的に離れたドメインに対してもどれほど一般化できるか？
• RQ5 ラベルなしターゲットデータが一切ない状況でも、モデルは強い性能を発揮できるか？

主な発見

• VDANLGモデルは、未観測のテレビドメインでBLEUスコア41.83、スロット誤り率（ERR）2.38を達成し、強力な少データ適応能力を示した。
• 敵対的コントローラー（SCおよびDC）を備えたモデルは、スクラッチからの学習やコントローラーなしのモデルと比較して、欠落・誤配置・重複スロットなどの誤りタイプを顕著に低減した。
• ソースドメイン（例：ホテル）とターゲットドメイン（例：テレビ）が意味的に離れていても、モデルは効果的に適応し、ドメインシフトに対して高いロバストネスを示した。
• アブレーションスタディにより、変分生成器と敵対的コントローラーの両方が性能に不可欠であることが確認され、特にコントローラーがドメイン整合性に重要な役割を果たしていることが示された。
• 非教師あり適応においても、モデルは強力な性能（BLEU 42.11、ERR 2.74）を達成しており、ゼロショットまたは弱教師ありデプロイの可能性を示した。
• モデルはより簡潔で正確な発話を生成し、しばしば"SLOT_NAME SLOT_TYPE"のようなコンパクトなフレーズとしてスロットを形成することで、流暢さと正確性が向上した。