[論文レビュー] Learning Coupled Policies for Simultaneous Machine Translation.

Philip Arthur, Trevor Cohn+1 more|arXiv (Cornell University)|Feb 11, 2020

Natural Language Processing Techniques参考文献 11被引用数 5

ひとこと要約

本稿では、同時機械翻訳のための連携プログラマー・インタプリタ方策を学習する模倣学習アプローチを提案する。プログラマーはいつ入力を読み込むか、出力を書き出すかを決定し、インタプリタは次の単語を選択する。語の対応に基づくアルゴリズム的オラクルを用いて、スケジュールドサンプリングにより露出バイアスを低減し、複数の言語対で翻訳品質と遅延の両面で最先端の性能を達成する。

ABSTRACT

In simultaneous machine translation, the system needs to incrementally generate the output translation before the input sentence ends. This is a coupled decision process consisting of a programmer and interpreter. The programmer's policy decides about when to WRITE the next output or READ the next input, and the interpreter's policy decides what word to write. We present an imitation learning (IL) approach to efficiently learn effective coupled programmer-interpreter policies. To enable IL, we present an algorithmic oracle to produce oracle READ/WRITE actions for training bilingual sentence-pairs using the notion of word alignments. We attribute the effectiveness of the learned coupled policies to (i) scheduled sampling addressing the coupled exposure bias, and (ii) quality of oracle actions capturing enough information from the partial input before writing the output. Experiments show our method outperforms strong baselines in terms of translation quality and delay, when translating from German/Arabic/Czech/Bulgarian/Romanian to English.

研究の動機と目的

• 入力が完了する前から段階的に出力を生成しなければならない、同時機械翻訳の課題に対処すること。
• プログラマーが読み込み／書き込みのタイミングを制御し、インタプリタが出力語を選択する、連携した意思決定プロセスをプログラマー・インタプリタ方策ペアとしてモデル化すること。
• 語の対応から導出されるオラクル行動を用いて、模倣学習フレームワークを構築し、これらの連携方策を効果的に学習すること。
• 訓練中に真値と予測された行動の両方を用いるスケジュールドサンプリングを導入することで、連携方策訓練プロセスにおける露出バイアスを軽減すること。
• 部分的な入力から十分な文脈を捉えるようにオラクル行動を設計し、情報豊かな意思決定を可能にすること。
• ドイツ語、アラビア語、チェコ語、ブルガリア語、ルーマニア語から英語への翻訳タスクにおいて、フレームワークを訓練および評価すること。

提案手法

• 語の対応情報に基づいて、アルゴリズム的オラクルが双方向文のペアごとに最適なREADおよびWRITE行動を生成する。
• プログラマー方策は部分的な入力をもとに、行動（入力のREADまたは出力のWRITE）を選択する。一方、インタプリタ方策は次の出力語を生成する。
• 模倣学習を用いて、オラクルからの教師信号を用いて両方策をエンドツーエンドで訓練する。
• スケジュールドサンプリングを導入し、訓練中に真値と予測された行動の両方を用いることで、露出バイアスを低減する。
• オラクル行動は、出力を生成する前に部分的入力からの十分な文脈を捉えるように設計されており、的確な意思決定を可能にする。
• フレームワークはドイツ語、アラビア語、チェコ語、ブルガリア語、ルーマニア語から英語への翻訳タスクにおいて訓練および評価される。

実験結果

リサーチクエスチョン

• RQ1 模倣学習を用いて、同時機械翻訳のための連携プログラマー・インタプリタ方策を効果的に訓練する方法は何か？
• RQ2 語の対応に基づくオラクルを用いることで、低遅延翻訳における方策学習にどの程度の向上が得られるか？
• RQ3 スケジュールドサンプリングは、同時翻訳の連携意思決定プロセスにおける露出バイアスを効果的に軽減できるか？
• RQ4 オラクル行動の品質と訓練戦略が、翻訳品質と遅延にどのように共同で影響を与えるか？
• RQ5 本手法は、多様な言語対において、強力なベースラインと比較して、BLEUスコアと遅延の両面でどの程度の性能向上を達成するか？

主な発見

• 提案手法は、ドイツ語、アラビア語、チェコ語、ブルガリア語、ルーマニア語から英語への翻訳において、BLEUスコアで最先端の翻訳品質を達成した。
• 強力なベースラインと比較して、翻訳遅延を顕著に低減し、リアルタイム性能の向上を示した。
• スケジュールドサンプリングは、連携方策訓練プロセスにおける露出バイアスを効果的に軽減し、より頑健な推論を可能にした。
• 語の対応から導出されたオラクル行動は、部分的入力からの十分な文脈を捉えており、適切なタイミングでの正確な出力生成を可能にした。
• 特に低リソース言語および屈折語の多い言語対において、翻訳品質と遅延の両面で、既存手法を上回る性能を示した。