[論文レビュー] Imitation Learning for Non-Autoregressive Neural Machine Translation

Bingzhen Wei, Mingxuan Wang+4 more|arXiv (Cornell University)|Jun 5, 2019

Natural Language Processing Techniques参考文献 21被引用数 31

ひとこと要約

本稿では、非自己回帰的神経機械翻訳（NAT）の性能を向上させるために、熟練した自己回帰的翻訳者をデモンストレーターとして用い、各層および時刻におけるデコード状態を監視する、イミテーション学習フレームワーク、imitate-NATを提案する。この手法は、WMT16 Ro→Enで31.85 BLEU、IWSLT16 En→Deで30.68 BLEUの近似自己回帰的翻訳品質を達成しながら、NATの10倍の推論速度向上を維持し、自己回帰モデルとの性能格差を効果的に是正する。

ABSTRACT

Non-autoregressive translation models (NAT) have achieved impressive inference speedup. A potential issue of the existing NAT algorithms, however, is that the decoding is conducted in parallel, without directly considering previous context. In this paper, we propose an imitation learning framework for non-autoregressive machine translation, which still enjoys the fast translation speed but gives comparable translation performance compared to its auto-regressive counterpart. We conduct experiments on the IWSLT16, WMT14 and WMT16 datasets. Our proposed model achieves a significant speedup over the autoregressive models, while keeping the translation quality comparable to the autoregressive models. By sampling sentence length in parallel at inference time, we achieve the performance of 31.85 BLEU on WMT16 Ro$ ightarrow$En and 30.68 BLEU on IWSLT16 En$ ightarrow$De.

研究の動機と目的

• 非自己回帰的（NAT）と自己回帰的（AT）神経機械翻訳モデルの性能格差を是正すること。
• NAT学習における遅延した監視と大きな探索空間の課題を克服すること。
• NATの高い推論速度を維持しつつ、翻訳品質を自己回帰モデルと同等に向上させること。
• 熟練したATモデルを活用してNATデコード状態をガイドする、新しいイミテーション学習フレームワークを導入すること。

提案手法

• 事前に訓練された自己回帰的NMTモデルを熟練したデモンストレーターとして用い、NATの各デコード状態に対する監視を提供する。
• デモンストレーターの予測を用いて、全層および全時刻における各デコード状態を監視する。
• イミテーション学習を適用し、NATデコーダー状態を最適な行動へ誘導することで、遅延報酬への依存を低減する。
• 推論中に多様な文長をサンプリングするために、長さ並列デコード（LPD）を統合する。これにより性能が向上する。
• 行動分布のバランスを取るために、カテゴリ再配分を適用し、潜在空間におけるクラスタリングバイアスを防止する。
• イミテーション学習フレームワークを知識蒸留と組み合わせ、さらなる性能向上を実現する。

実験結果

リサーチクエスチョン

• RQ1 イミテーション学習は、非自己回帰的と自己回帰的神経機械翻訳モデルの性能格差を効果的に是正できるか？
• RQ2 熟練した自己回帰的デモンストレーターを用いることで、NATの学習安定性と性能がどのように向上するか？
• RQ3 長さ並列デコードとカテゴリ再配分は、NATのデコード品質をどの程度向上させ得るか？
• RQ4 イミテーション学習フレームワークは知識蒸留と相乗効果をもたらし、さらなる向上をもたらすか？

主な発見

• 提案されたimitate-NATモデルは、WMT16 Ro→Enで31.85 BLEU、IWSLT16 En→Deで30.68 BLEUを達成し、翻訳品質において自己回帰的ベースラインと同等またはそれを上回る。
• 長さ並列デコード（LPD）を適用することで、IWSLT16 En→Deで2.25 BLEUポイント向上（28.41から30.68 BLEU）を達成した。
• 知識蒸留を適用しないimitate-NATは、知識蒸留を適用した非イミテーションNATよりも+3.3 BLEUポイント優れている。
• カテゴリ再配分技術により、行動分布がよりバランスよくなり、モデルの一般化性能が向上し、クラスタリングバイアスが低減した。
• イミテーション学習フレームワークは知識蒸留と相性が良く、非イミテーションNATに知識蒸留を適用した場合に比べて+3.3 BLEUポイントの顕著な向上を実現した。
• 自己回帰モデル比で10倍の高速化を維持しながら、標準ベンチマークで最先端のNAT性能を達成した。