[論文レビュー] Towards Decoding as Continuous Optimization in Neural Machine Translation

Cong Duy Vu Hoang, Gholamreza Haffari+1 more|arXiv (Cornell University)|Jan 11, 2017

Natural Language Processing Techniques参考文献 27被引用数 6

ひとこと要約

本稿では、ニューラル機械翻訳（NMT）のデコードに向けた連続最適化フレームワークを提案する。離散的シーケンス生成を制約付き連続最適化問題に再定式化することで、トークン予測の整数制約を緩和し、確率単体上でのソフト代入を可能にする。確率的勾配降下法（SGD）と指数型勾配（EG）アルゴリズムを用いることで、左から右および右から左へのNMTモデル、あるいは元言語から対象言語、対象言語から元言語へのNMTモデルの交差（intersected）モデルのような、計算が困難なモデルの効果的デコードが可能となり、グリーディ法やビームサーチに比べて翻訳品質が顕著に向上する。

ABSTRACT

We propose a novel decoding approach for neural machine translation (NMT) based on continuous optimisation. We convert decoding - basically a discrete optimization problem - into a continuous optimization problem. The resulting constrained continuous optimisation problem is then tackled using gradient-based methods. Our powerful decoding framework enables decoding intractable models such as the intersection of left-to-right and right-to-left (bidirectional) as well as source-to-target and target-to-source (bilingual) NMT models. Our empirical results show that our decoding framework is effective, and leads to substantial improvements in translations generated from the intersected models where the typical greedy or beam search is not feasible. We also compare our framework against reranking, and analyse its advantages and disadvantages.

研究の動機と目的

• グリーディ法やビームサーチといったヒューリスティックなデコード手法の限界を解消すること。
• 標準的な左から右への生成順序に従わない、複雑なグローバル制約を持つNMTモデルに対して、効果的なデコードを可能にすること。
• トークン予測の離散的制約を緩和することで、シーケンスデコードを連続最適化問題として定式化すること。
• NMTにおける推論に適した勾配ベース最適化手法（SGDとEG）の開発と評価すること。
• 連続デコードが交差NMTモデル（例：双方向的・二国語組み合わせ）において有効であることを実証すること。

提案手法

• 予測トークンのワンホット制約を緩和することで、離散的NMTデコードを連続最適化問題に再定式化し、確率単体内でのソフト代入を可能にする。
• NMTモデルの対数尤度に基づく連続的目的関数を定義し、確率単体上の制約のもとで最適化する。
• 推論中に連続最適化問題を解くために、確率的勾配降下法（SGD）と指数型勾配（EG）アルゴリズムを適用する。
• EGアルゴリズムを用いて、正規化と勾配ベース更新を通じて、反復的にトークン確率を更新し、妥当性を維持する。
• 左から右および右から左のモデルの交差を含むグローバル制約を統合するために、複数の生成順序を同時に最適化する。
• 異なる生成方向（例：左から右および右から左）に対してNMTモデルを別々に学習し、その後、連続デコードフレームワークを介して統合する。

実験結果

リサーチクエスチョン

• RQ1 連続最適化は、複雑なグローバル制約を持つNMTモデルにおいて、ヒューリスティックなデコード手法に効果的に代わることができるか？
• RQ2 翻訳品質と収束性の観点から、SGDとEGは従来のビームサーチに比べて連続デコードでどの程度の性能を示すか？
• RQ3 提案されたフレームワークは、標準的なグリーディ法やビームサーチが失敗する、交差NMTモデル（例：双方向的・二国語組み合わせ）をデコードできるか？
• RQ4 左から右および右から左のモデルを組み合わせた場合、連続デコードは翻訳品質と多様性にどのような影響を与えるか？
• RQ5 再ランク付け手法と比較して、連続デコードフレームワークは性能と計算効率の点でどのように異なるか？

主な発見

• 連続最適化フレームワークにより、左から右および右から左の組み合わせなど、従来のグリーディ法やビームサーチでは実行不可能な交差NMTモデルの効果的デコードが可能になった。
• 指数型勾配（EG）アルゴリズムは、確率的勾配降下法（SGD）を上回るデコード品質を示し、優れた収束性と安定性を示した。
• 中国語-英語およびドイツ語-英語翻訳タスクにおける実験的結果から、交差モデルにおいてベースラインデコード手法に比べてBLEUスコアが顕著に向上した。
• 双方向的または二国語のNMTモデルを組み合わせた際、検索誤差とエンドツーエンドの翻訳品質の両面で一貫した改善が得られた。
• この手法は、モデルの交差といったグローバル制約を効果的に処理でき、標準的なヒューリスティックなデコード法よりも多様性と正確性に優れた翻訳を実現した。
• 再ランク付け手法と比較して、連続デコードフレームワークは、より原理的で統一的なグローバルモデル統合のアプローチを提供し、複雑なモデルアンサンブルにおいて優れた性能を発揮した。