[論文レビュー] Dual Skew Divergence Loss for Neural Machine Translation

Fengshun Xiao, Yingting Wu+3 more|arXiv (Cornell University)|Sep 27, 2018

Natural Language Processing Techniques参考文献 34被引用数 4

ひとこと要約

本稿では、一般化性能を向上させるとともに局所最適解への収束を回避するため、誤差回避とロバストネスのバランスを取る拡張学習目的関数であるデュアルスケーリングダイバージェンス（DSD）損失を提案する。WMT 2014 英語＝ドイツ語および英語＝フランス語ベンチマークにおける実験的結果から、DSDは最尤推定とベースライン損失よりも優れた翻訳性能を達成することが示された。

ABSTRACT

For neural sequence model training, maximum likelihood (ML) has been commonly adopted to optimize model parameters with respect to the corresponding objective. However, in the case of sequence prediction tasks like neural machine translation (NMT), training with the ML-based cross entropy loss would often lead to models that overgeneralize and plunge into local optima. In this paper, we propose an extended loss function called dual skew divergence (DSD), which aims to give a better tradeoff between generalization ability and error avoidance during NMT training. Our empirical study indicates that switching to DSD loss after the convergence of ML training helps the model skip the local optimum and stimulates a stable performance improvement. The evaluations on WMT 2014 English-German and English-French translation tasks demonstrate that the proposed loss indeed helps bring about better translation performance than several baselines.

研究の動機と目的

• ニューラル機械翻訳（NMT）における最尤（ML）学習の限界を解決すること。これは、しばしば過剰一般化を引き起こし、劣悪な局所最適解に収束する傾向がある。
• NMT学習中にモデルの一般化性能と誤差回避のバランスをより良くする損失関数を開発すること。
• 初期のML収束後に局所最適解から脱出できるようにすることで、翻訳性能を向上させること。

提案手法

• モデルの予測と正解出力の整合性を高めるために、2つのスケーリングダイバージェンスを組み合わせた拡張損失関数としてデュアルスケーリングダイバージェンス（DSD）を提案する。
• モデルが最尤学習で収束した後、DSD損失を適用してパラメータを微調整し、局所最適解からの脱出を図る。
• スケーリングダイバージェンスを用いて、予測における過信と過小信の両方をペナルティ化することで、ロバストネスを向上させる。
• 標準的なML学習の後にDSDを微調整目的関数として統合し、分布の不一致を是正する能力を活用する。
• 損失関数を微分可能かつ標準的なNMTアーキテクチャと学習パイプラインと互換性を持たせるように設計する。

実験結果

リサーチクエスチョン

• RQ1 最尤学習に比べて、変更された損失関数がNMTにおける翻訳性能を向上させられるか？
• RQ2 デュアルスケーリングダイバージェンス（DSD）は、学習中に局所最適解からの脱出を効果的に支援するか？
• RQ3 標準的なNMTベンチマークにおいて、DSDは一般化性能とロバストネスの観点で、ベースライン損失関数と比較して優れているか？

主な発見

• ML収束後にDSD損失に切り替えることで、英語＝ドイツ語および英語＝フランス語翻訳タスクの両方で安定した性能向上が得られた。
• WMT 2014ベンチマークにおいて、提案されたDSD損失は最尤推定および他のベースライン損失関数よりも優れた翻訳性能を達成した。
• DSDは過剰一般化を効果的に抑制し、学習中に劣悪な局所最適解を回避するのを助ける。
• 実験的結果から、DSDが誤差回避と一般化能力のバランスを取ることで、モデルのロバストネスが向上することが確認された。