[論文レビュー] Semi-Supervised QA with Generative Domain-Adaptive Nets

Zhilin Yang, Junjie Hu+2 more|arXiv (Cornell University)|Feb 7, 2017

Topic Modeling参考文献 37被引用数 29

ひとこと要約

本稿では、生成モデルを用いて合成された質問-回答ペアを生成し、それを人間ラベル付きデータと組み合わせることで、未ラベルテキストを活用する半教師付き質問応答フレームワークであるGenerative Domain-Adaptive Nets (GDANs)を提案する。ドメイン適応をドメインタグと強化学習を用いて実装し、生成データの分布を人間が作成したデータと一致させる。SQuADで8,000件のラベル付き例でのみ学習した場合、教師あり学習に比べてF1スコアが9.87ポイント向上した。

ABSTRACT

We study the problem of semi-supervised question answering----utilizing unlabeled text to boost the performance of question answering models. We propose a novel training framework, the Generative Domain-Adaptive Nets. In this framework, we train a generative model to generate questions based on the unlabeled text, and combine model-generated questions with human-generated questions for training question answering models. We develop novel domain adaptation algorithms, based on reinforcement learning, to alleviate the discrepancy between the model-generated data distribution and the human-generated data distribution. Experiments show that our proposed framework obtains substantial improvement from unlabeled text.

研究の動機と目的

• 実世界の応用においてラベル付き質問応答データが限られているという課題に対処すること。
• ラベル付きデータが不足する状況で、未ラベルテキストが質問応答モデルの性能向上に効果的に寄与するかを調査すること。
• モデルが生成したデータと人間が作成したデータの分布のギャップを埋めるフレームワークを開発すること。
• 生成データ拡張を用いた半教師付き学習により、抽出型QAモデルの汎化性能とロバスト性を向上させること。
• ドメイン適応技術を生成モデルの出力に適用した場合の有効性を質問応答の文脈で示すこと。

提案手法

• 未ラベルテキストから抽出した回答スパンを用いて、文脈的タグを活用して質問を生成する生成モデルを訓練する。
• 識別モデルの学習中に、人間が作成したQAペアとモデルが生成したQAペアを区別するためのドメインタグを導入する。
• ドメインタグを条件として識別QAモデルを学習させ、ドメイン不変およびドメイン固有の表現を学習する。
• 識別モデルの損失を最小化するように、敵対的アプローチで生成モデルを強化学習により微調整する。
• 人間ラベル付きQAペアと生成ペアを組み合わせて、最終的な識別モデルを学習する。
• 未ラベルテキストとコンテキストのみの監視を組み合わせる単純なベースライン手法を用いて、性能の下限を確立する。

実験結果

リサーチクエスチョン

• RQ1 ラベル付きデータが限られている状況で、未ラベルテキストを効果的に活用して抽出型質問応答モデルの性能を向上させることができるか？
• RQ2 モデルが生成したQAデータと人間が作成したQAデータの分布的差をどのように是正すれば、下流の性能向上に寄与できるか？
• RQ3 特にドメインタグ付けと敵対的訓練を含むドメイン適応技術が、半教師付きQAにおける汎化性能をどの程度向上させるか？
• RQ4 GAN やデュアルラーニングといった強力なベースラインと比較して、提案されたGDANフレームワークはどのように差をつけるか？
• RQ5 生成データとドメイン適応的微調整を組み合わせることで、ラベル付きデータの割合や未ラベルデータのスケールが異なる状況でも一貫した性能向上が得られるか？

主な発見

• SQuADデータセットでラベル付き例が8,000件のみの状況下で、GDANフレームワークは教師あり学習に比べてF1スコアで9.87ポイント向上した。
• 500万件の未ラベル例と10%のラベル付きデータを用いた場合、GDANは教師あり学習に比べてF1スコアを11.75ポイント向上させた。
• ドメインタグ付けと敵対的微調整を施したモデル（Gen + domain + adv）は、SQuADで90%のラベル付きデータと500万件の未ラベルデータを用いた場合、F1スコア0.6670を達成し、最高のスコアを記録した。
• 提案されたベースライン手法（コンテキストのみの監視を用いる）ですら顕著な向上を示しており、完全な生成モデリングがなくても未ラベルテキストの価値が示された。
• ドメインタグと強化学習によるドメイン適応は、生成データと実データの性能ギャップを顕著に低減させ、標準的なGANやデュアルラーニングのベースラインを上回った。
• 全テストされたラベル付きデータの割合と未ラベルデータのスケールにおいて、フレームワークは一貫して性能向上を示し、ロバスト性とスケーラビリティを確認した。