[論文レビュー] Domain Adaptive Dialog Generation via Meta Learning

Kun Qian, Yu Zhou|arXiv (Cornell University)|Jun 8, 2019

Topic Modeling参考文献 39被引用数 20

ひとこと要約

本稿では、メタラーニングを用いたドメイン適応対応対話生成（DAML）を提案する。DAMLは、わずかな例でのみ、新規の低リソースドメインに迅速に適応できるエンドツーエンド対話システムを実現するメタラーニング手法である。複数の豊富なリソースを有するドメインでモデルに依存しないメタラーニング（MAML）を活用することで、一般化性能に優れた堅牢な初期化を学習し、最小限のターゲットデータでゼロショットドメイン適応において最先端の性能を達成する。

ABSTRACT

Domain adaptation is an essential task in dialog system building because there are so many new dialog tasks created for different needs every day. Collecting and annotating training data for these new tasks is costly since it involves real user interactions. We propose a domain adaptive dialog generation method based on meta-learning (DAML). DAML is an end-to-end trainable dialog system model that learns from multiple rich-resource tasks and then adapts to new domains with minimal training samples. We train a dialog system model using multiple rich-resource single-domain dialog data by applying the model-agnostic meta-learning algorithm to dialog domain. The model is capable of learning a competitive dialog system on a new domain with only a few training examples in an efficient manner. The two-step gradient updates in DAML enable the model to learn general features across multiple tasks. We evaluate our method on a simulated dialog dataset and achieve state-of-the-art performance, which is generalizable to new tasks.

研究の動機と目的

• 新しいドメインにおける対話システムの学習におけるデータ不足の課題に対処すること。これは、アノテート済みのユーザーインタラクションを収集するのに費用がかかり、時間がかかるためである。
• 言語的・構造的特徴のドメイン固有性により、豊富なリソースを有するドメインから低リソースまたは未観測ドメインへの知識の転送が困難であるという課題を克服すること。
• エンドツーエンドで学習可能な対話システムを開発し、最小限のファインチューニングで新しいタスクに迅速に適応できるようにし、ドメイン間で一般化できるようにすること。
• メタラーニングを用いて、迅速な適応に敏感なパラメータ初期化を学習することで、従来のゼロショットおよびトランスファーラーニング手法を凌駆すること。
• 多様なドメイン、特に映画情報検索のような適応が難しいドメインを含む、多様なドメインにわたる耐性と一般化性能を向上させること。

提案手法

• 複数のソースドメイン（レストラン、天気、バス）でモデルに依存しないメタラーニング（MAML）を適用し、タスク間で一般化可能な共有初期化を学習する。
• Belief spanトラッキングを組み込んだ、二段階のCopyNet拡張seq2seqモデル（Sequicity）をベースアーキテクチャとして採用し、スロット埋め込みと応答生成の両方の性能を向上させる。
• MAMLにおける二段階勾配更新を実施：内側ループでは、少数のサンプルで新しいタスクにモデルを適応させ、外側ループでは適応後の損失を最小化するように初期化を更新する。
• 標準的な勾配降下法を用いて、少量のターゲットドメイン（例：映画情報検索）でメタラーニングで得た初期化をファインチューニングする。
• Belief span表現を統合することでスロットトラッキングを簡素化し、直前のターンからのスロットの直接コピーを可能にすることで、エンティティF1を向上させる。
• SimDialから得たシミュレーテッド対話データを活用し、制御可能で再現可能な条件下でドメイン間の一般化性能を評価する。

実験結果

リサーチクエスチョン

• RQ1 メタラーニングは、わずかな学習例でのみ、多様で未観測のドメインに一般化できる対話システムを実現できるか？
• RQ2 提案手法DAMLは、ゼロショット学習（ZSDG）およびトランスファーラーニングベースラインと比較して、低リソースドメインにおけるエンティティF1およびBLEUスコアでどのように性能を発揮するか？
• RQ3 ターゲットドメインデータ量の変動が適応性能に与える影響は何か？また、DAMLは最小限のデータでどの程度迅速に収束するか？
• RQ4 DAMLはドメインシフト、未知語（OOV）トークン、訂正を伴う複雑な発話や代名詞に対してどれほど耐性を示すか？
• RQ5 Belief spanと二段階のCopyNetの使用は、低リソース適応設定における性能と一般化性能を向上させるか？

主な発見

• DAMLは映画情報検索ドメインで最先端の性能を達成し、エンティティF1が64.0、BLEUスコアが30.1を記録し、ZSDGベースラインおよびトランスファーラーニング手法を上回った。
• たった1つの学習例（ワンショット学習）でも、DAMLは映画ドメインでBLEUスコア32.7、エンティティF1 66.2を達成し、両方の指標でZSDGを上回った。
• ターゲットデータ量が増加するにつれて性能が向上し、エンティティF1およびBLEUスコアはターゲットデータの4％でほぼ収束した。これは、データの効率的利用を示している。
• レストランドメインは最も適応が容易で、最高のエンティティF1（82.1）およびBLEU（47.9）を達成した。一方、映画ドメインは最も挑戦的であり、これがハードテストケースとしての適性を裏付けた。
• OOVトークン（unk）、'ones'のような代名詞、訂正を伴う複雑な発話の処理において、モデルは限界を示しており、今後の改善の余地があることが示された。
• リーブ・ワン・アウト評価により、DAMLの耐性が確認され、特に最も困難なターゲットドメイン（映画）を含む、すべてのドメイン組み合わせで一貫してベースラインを上回った。