[論文レビュー] Regularizing Neural Machine Translation by Target-bidirectional Agreement

Zhirui Zhang, Shuangzhi Wu+4 more|arXiv (Cornell University)|Aug 13, 2018

Natural Language Processing Techniques参考文献 27被引用数 8

ひとこと要約

この論文は、左から右（L2R）および右から左（R2L）のデコーダー間の整合性を強制することで翻訳品質を向上させる、ニューラル機械翻訳（NMT）のための新しい正則化手法を提案する。訓練目的関数に2つのカルバック・ライブラー（KL）ダイバージェンス項を追加し、両モデルを同時に最適化することで、露出バイアスを低減し、中国語-英語および英語-ドイツ語翻訳タスクで顕著な性能向上を達成する。

ABSTRACT

Although Neural Machine Translation (NMT) has achieved remarkable progress in the past several years, most NMT systems still suffer from a fundamental shortcoming as in other sequence generation tasks: errors made early in generation process are fed as inputs to the model and can be quickly amplified, harming subsequent sequence generation. To address this issue, we propose a novel model regularization method for NMT training, which aims to improve the agreement between translations generated by left-to-right (L2R) and right-to-left (R2L) NMT decoders. This goal is achieved by introducing two Kullback-Leibler divergence regularization terms into the NMT training objective to reduce the mismatch between output probabilities of L2R and R2L models. In addition, we also employ a joint training strategy to allow L2R and R2L models to improve each other in an interactive update process. Experimental results show that our proposed method significantly outperforms state-of-the-art baselines on Chinese-English and English-German translation tasks.

研究の動機と目的

• 自己回帰的生成における初期の誤りが蓄積され、翻訳品質を低下させるNMTにおける露出バイアス問題に対処する。
• L2RおよびR2Lデコーダーの相補的特長を活用することで、系列生成のロバスト性を向上させる。
• 訓練と推論の不一致を軽減するため、訓練中にL2RおよびR2Rモデルの確率分布を一致させる。
• モデルアーキテクチャの変更や推論速度の低下を伴わずに、シンプルで効率的な正則化技術を開発する。
• 共有の正則化目的関数を用いた相互的な共同学習により、L2RおよびR2Lモデルが互いに改善し合うようにする。

提案手法

• 標準NMT訓練目的関数に2つのカルバック・ライブラー（KL）ダイバージェンス正則化項を導入し、L2RおよびR2Lモデルの出力確率分布の不一致を最小化する。
• L2RおよびR2Lモデル出力間のKLダイバージェンスを用いて、訓練中に露出バイアスを測定・低減する。
• 訓練時間の著しい増加を避けながら、正則化項を効率的に近似計算するアルゴリズムを設計する。
• L2RおよびR2Lモデルがお互いに補助し合うように、相互に更新する共同学習戦略を実装する。
• デコーダー構造や推論メカニズムの変更を避けることで、元のモデルアーキテクチャと推論速度を維持する。
• 最大尤度推定とクロスモデル整合性正則化を組み合わせた共有目的関数を用いて、両モデルをエンドツーエンドに訓練する。

実験結果

リサーチクエスチョン

• RQ1 L2RおよびR2L NMTデコーダーの訓練中に整合性を強制することで、露出バイアスを低減し、翻訳品質を向上させることができるか？
• RQ2 提案手法のKLダイバージェンス正則化は、標準的なMLE訓練と比較して、系列生成のロバスト性をどのように向上させるか？
• RQ3 L2RおよびR2Lモデルが双方向整合性を持つ共同学習によって、どの程度互いに改善し合うことができるか？
• RQ4 この手法は、性能の優れたベースラインを上回る性能を達成する一方で、推論速度を維持できるか？
• RQ5 この正則化技術は、要約や対話生成などの他の系列対系列タスクにも一般化可能か？

主な発見

• 提案手法は中国語-英語および英語-ドイツ語翻訳タスクで最先端のベースラインを顕著に上回り、BLEUスコアで一貫した向上を示した。
• 双方向整合性を持つ共同学習により、誤った接頭辞や接尾辞の生成が低減され、定量的例では両モデルの長所が統合されていることが示された。
• モデルアーキテクチャの変更や推論時間の増加なしに翻訳品質が向上し、標準NMTシステムの効率性を維持した。
• KLダイバージェンス正則化は、L2RおよびR2L出力間の一貫性を促進することで、露出バイアスを効果的に測定・低減した。
• 事例研究では、長時間にわたる誤り伝搬リスクがある長文処理において、単独のL2RまたはR2Lモデルよりも優れた翻訳を生成した。
• この手法は、Transformerベースのモデルに対しても有効であり、さまざまなNMTアーキテクチャに広く適用可能であることが示された。