[論文レビュー] Don't Take It Literally: An Edit-Invariant Sequence Loss for Text Generation

Guangyi Liu, Zichao Yang+7 more|arXiv (Cornell University)|Jun 29, 2021

Natural Language Processing Techniques被引用数 4

ひとこと要約

本稿では、参照文にノイズや編集が含まれる状況でも頑健であるように設計された、ニューラルテキスト生成のための新しい学習目的であるEdit-Invariant Sequence Loss（EISL）を提案する。EISLは、ターゲットn-gramと生成されたシーケンス内のすべてのn-gram間の一致損失を計算することで、ノイズや編集に対して耐性を持つ。EISLは、機械翻訳におけるノイズのあるターゲット、非自己回帰的生成、無教師的スタイル転送の各タスクにおいて、交差エントロピー損失や強力なベースラインを上回り、畳み込み演算を用いた効率的な実装により、ドロップインリプレースメントとして容易に統合可能である。

ABSTRACT

Neural text generation models are typically trained by maximizing log-likelihood with the sequence cross entropy (CE) loss, which encourages an exact token-by-token match between a target sequence with a generated sequence. Such training objective is sub-optimal when the target sequence is not perfect, e.g., when the target sequence is corrupted with noises, or when only weak sequence supervision is available. To address the challenge, we propose a novel Edit-Invariant Sequence Loss (EISL), which computes the matching loss of a target n-gram with all n-grams in the generated sequence. EISL is designed to be robust to various noises and edits in the target sequences. Moreover, the EISL computation is essentially an approximate convolution operation with target n-grams as kernels, which is easy to implement and efficient to compute with existing libraries. To demonstrate the effectiveness of EISL, we conduct experiments on a wide range of tasks, including machine translation with noisy target sequences, unsupervised text style transfer with only weak training signals, and non-autoregressive generation with non-predefined generation order. Experimental results show our method significantly outperforms the common CE loss and other strong baselines on all the tasks. EISL has a simple API that can be used as a drop-in replacement of the CE loss: https://github.com/guangyliu/EISL.

研究の動機と目的

• 参照シーケンスにノイズや不完全さが含まれる状況において、交差エントロピー（CE）損失の限界を解消すること。
• 語の入れ替え、繰り返し、空白化といった一般的なテキスト編集に対して不変である学習目的を開発すること。
• 弱教師付き学習下でもより良い一般化を実現しつつ、エンドツーエンドの微分可能性と計算効率を維持すること。
• CE損失のドロップインリプレースメントとして、さまざまなテキスト生成タスクで性能を向上させること。

提案手法

• EISLは、ターゲットシーケンス内の各n-gramと、生成されたシーケンス内のすべてのn-gramとの間の一致損失を計算する。
• 損失は、ターゲットn-gramを生成シーケンス上に適用する可学習カーネルとしての役割を果たす微分可能な畳み込み演算として定式化される。
• すべてのn-gram位置における一致スコアを集約することで、順序の入れ替え、繰り返し、欠落した語に対しても損失が頑健になる。
• nが全シーケンス長に等しい場合、EISLはCE損失に還元され、後方互換性が保証される。
• 実装は、標準的な畳み込み演算を用いて効率的な計算を実現するため、既存のディープラーニングライブラリを活用している。
• アーキテクチャの変更なしに、既存の学習パイプラインに容易に統合可能であるように設計されている。

実験結果

リサーチクエスチョン

• RQ1 語の入れ替え、繰り返し、空白化といった一般的なテキスト編集に対して不変でありながら、学習効率を損なわずに、シーケンスレベルの損失を設計できるか？
• RQ2 機械翻訳において、ノイズや破損した参照シーケンスを用いて学習する場合、EISLはCE損失よりも優れた性能を示すか？
• RQ3 弱いコンテンツ監視情報でのみ学習可能な状況において、EISLは無教師的テキストスタイル転送の性能をどの程度向上できるか？
• RQ4 自己回帰的でないテキスト生成において、EISLは再トレーニングやアーキテクチャ変更なしにCE損失を効果的に置き換えられるか？
• RQ5 自動評価および人的評価指標を用いて測定した場合、EISLはさまざまなノイズレベルや編集タイプに対して頑健であるか？

主な発見

• ノイズのあるターゲットシーケンスを用いた機械翻訳において、EISLは標準的な交差エントロピー損失を顕著に上回り、さまざまなノイズレベルで高いBLEUスコアを達成した。
• 無教師的テキストスタイル転送において、EISLはCE損失および強化学習ベースラインと比較して、より優れたコンテンツ保持性とスタイル転送品質を達成した。
• 非自己回帰的テキスト生成において、EISLは生成順序を事前に定義しない状況でも、CE損失を上回る性能を示した。これは、EISLの柔軟性を示している。
• 語の入れ替え、繰り返し、空白化といった編集タイプに対して、EISLは頑健であり、編集率が上昇するにつれて損失値がCEに比べてはるかにゆっくりと増加した。
• EISLは、すべての評価タスクで最先端の結果を達成した一方で、計算効率と既存の学習フレームワークとの互換性を維持した。
• 人的評価により、EISLによって生成された出力は、特に弱教師付き学習下において、より自然で意味的に参照シーケンスと整合性の高いものであると確認された。