[論文レビュー] Discriminative Adversarial Search for Abstractive Summarization

Thomas Scialom, Paul-Alexis Dray+3 more|arXiv (Cornell University)|Feb 24, 2020

Speech Recognition and Synthesis参考文献 52被引用数 9

ひとこと要約

本稿では、推論時に訓練済みの識別器を用いてビームサーチをガイドする、新たなシーケンスデコード手法である判別的敵対的探索（DAS）を提案する。生成器パラメータの更新なしに、露顯バイアスを低減し、要約生成の性能を向上させる。DASはCNN/DMおよびTL;DRベンチマークで最先端のROUGEスコアを達成し、識別器の再訓練によりさらなる向上が得られ、ルールベースのフィルタリングなしにクロスドメイン適応性を示す。

ABSTRACT

We introduce a novel approach for sequence decoding, Discriminative Adversarial Search (DAS), which has the desirable properties of alleviating the effects of exposure bias without requiring external metrics. Inspired by Generative Adversarial Networks (GANs), wherein a discriminator is used to improve the generator, our method differs from GANs in that the generator parameters are not updated at training time and the discriminator is only used to drive sequence generation at inference time. We investigate the effectiveness of the proposed approach on the task of Abstractive Summarization: the results obtained show that a naive application of DAS improves over the state-of-the-art methods, with further gains obtained via discriminator retraining. Moreover, we show how DAS can be effective for cross-domain adaptation. Finally, all results reported are obtained without additional rule-based filtering strategies, commonly used by the best performing systems available: this indicates that DAS can effectively be deployed without relying on post-hoc modifications of the generated outputs.

研究の動機と目的

• 生成時に真のトークンを用いずに推論を行う露顯バイアスを軽減すること。
• BLEU や ROUGE といった外部指標に依存せず、人間の出力に近い出力を最適化することにより、抽象的要約生成を改善すること。
• 新しいドメインのデータに対して識別器のみを訓練することで、最小限のデータで効果的なクロスドメイン適応を可能にすること。
• デコード段階で後処理のルールベースのフィルタリング（例：長さペナルティ、n-gram繰り返し回避）を不要にする。
• 生成器の再訓練なしに、識別器と生成器の間のフィードバックループによって生成品質を向上させる手法を開発すること。

提案手法

• 実際の要約とモデル生成要約を区別するように事前に訓練された識別器を用意する。
• 推論時に、識別器の信頼度スコアを用いてビームサーチの確率を再重み付けし、人間らしい出力とみなされる可能性の高いシーケンスを優先する。
• ビームサーチは、静的指標ではなく、人間のテキスト分布を反映する動的でデータ駆動のメトリクスによってガイドされる。
• 生成後、新たに生成されたシーケンスを用いて識別器を再訓練することで、本物と偽物の区別能力を向上させ、フィードバックループを構築する。
• 生成器のモデルパラメータは全過程で固定されたままであり、追加の訓練は不要である。
• 本手法は、CNN/DMおよびTL;DRデータセットにおける抽象的要約生成に適用され、ドメイン適応とフィルタリング戦略に関するアブレーションスタディが実施される。

実験結果

リサーチクエスチョン

• RQ1 推論時に使用される識別器が、生成器の再訓練なしに露顯バイアスを効果的に低減できるか。
• RQ2 識別器によってビームサーチをガイドすることで、最先端の手法と比較してROUGEおよびBLEUスコアが向上するか。
• RQ3 識別器をドメイン外データで効果的にファインチューニングできるか、最小限のデータでクロスドメイン適応が可能か。
• RQ4 DASは長さペナルティやn-gram繰り返し回避といったルールベースのフィルタリング戦略の必要性を排除できるか。
• RQ5 強化学習やメトリクス最適化デコードと比較して、DASの性能は人間らしい流暢さと事実の整合性の観点で優れているか。

主な発見

• DASはCNN/DMで最先端を更新し、ルールベースのフィルタリングなしにROUGE-1、ROUGE-2、ROUGE-Lのすべてで新たな最先端スコアを達成した。
• 識別器の再訓練（DAS-retrain）により、TL;DRでは人間の要約と比較して2.72トークンの短さに抑えられたのに対し、UniLMでは12.11であった。これは長さ制御の優位性を示している。
• TL;DRでは、DAS-retrainは1,000件の例での識別器訓練のみで最先端モデルと同等の性能を達成した。これはドメイン適応における優れたデータ効率性を示している。
• DAS-retrainが生成する要約の語彙分布は、人間が書いた要約にUniLMよりも近い。これはより人間らしい語彙使用を示している。
• DAS-retrainはUniLMよりも3-gramの繰り返しをより効果的に低減し、シーケンスの各位置で生成された要約と人間の要約との差が著しく縮小した。
• 識別器はわずか1,000件の訓練例でのみでTL;DRで82.5％の正確度を達成し、限られたデータでも高い性能を示した。