[論文レビュー] Neural System Combination for Machine Translation

Long Zhou, Wenpeng Hu+2 more|arXiv (Cornell University)|Apr 21, 2017

Natural Language Processing Techniques参考文献 32被引用数 17

ひとこと要約

本稿では、複数のニューラル機械翻訳（NMT）システムの出力を統合することで、翻訳のなめらかさと適切さを向上させるニューラルシステム結合フレームワークを提案する。元の文と複数のシステム出力を別々のエンコーダーで処理し、共有デコーダーを用いることで、最良の単一システムより5.3 BLEUポイント向上し、最先端の従来型システム結合手法より3.4 BLEUポイント向上した。中国語→英語翻訳において効果を示した。

ABSTRACT

Neural machine translation (NMT) becomes a new approach to machine translation and generates much more fluent results compared to statistical machine translation (SMT). However, SMT is usually better than NMT in translation adequacy. It is therefore a promising direction to combine the advantages of both NMT and SMT. In this paper, we propose a neural system combination framework leveraging multi-source NMT, which takes as input the outputs of NMT and SMT systems and produces the final translation. Extensive experiments on the Chinese-to-English translation task show that our model archives significant improvement by 5.3 BLEU points over the best single system output and 3.4 BLEU points over the state-of-the-art traditional system combination methods.

研究の動機と目的

• NMTのなめらかさとSMTの適切さのトレードオフを解消すること、特にレアワードや未知語の処理において。
• NMTとSMTシステムからの多様な翻訳出力を効果的に統合するニューラルフレームワークの設計。
• 共有学習データを用いて、実際の複数システム出力が不要な有効な訓練を可能にするデータシミュレーション戦略の開発。
• 翻訳品質において、個々のMTシステムおよび従来型システム結合手法を上回ること。
• アンサンブルデコードとマルチソースモデリングがシステム結合において有効であることを示すこと。

提案手法

• マルチソースNMTアーキテクチャを適応し、元の文と複数のMTシステム（NMTおよびSMT）の出力を同時にエンコードする。
• 元の文と各システムの翻訳出力それぞれに別々のエンコーダーを用い、異なるコンテキストベクトル表現を生成する。
• 共有デコーダーを用い、デコーダー状態、直前の単語、およびすべての入力ソースからのコンテキストベクトルに条件づけて、最終的な翻訳を逐次生成する。
• デコーダー状態と各入力ソースのエンコーダー表現を動的にアライメントするためのソフトアテンション機構を適用する。
• 言語的多様性とカバレッジを保ちながら、実際のNMTおよびSMT出力を模倣する合成訓練例を生成するデータシミュレーション戦略を設計する。
• 複数のNMTモデルをアンサンブルして組み合わせることで、システム結合の入力品質を向上させるアンサンブルデコードを活用する。

実験結果

リサーチクエスチョン

• RQ1 ニューラルシステム結合モデルは、機械翻訳におけるNMTのなめらかさとSMTの適切さを効果的に統合できるか？
• RQ2 提案されたマルチソースNMTベースのフレームワークは、従来型システム結合手法と比較して、BLEUスコアおよび翻訳品質で優れているか？
• RQ3 データシミュレーション戦略は、ニューラルシステム結合における訓練効率とモデル一般化能力をどの程度向上させるか？
• RQ4 NMT出力のアンサンブルデコードは、システム結合フレームワークの性能をさらに向上させるか？
• RQ5 モデルは異なるMTシステムに一般化可能であり、低リソースまたはレアワードが多めの文においても高い性能を維持できるか？

主な発見

• 提案されたニューラルシステム結合モデルは、中国語→英語翻訳において、最良の個別システム（43.44 vs. 38.10 BLEU）より5.3ポイントのBLEU向上を達成した。
• 最先端の従来型システム結合手法（Jane）より3.4ポイントのBLEU向上を達成し、43.44 BLEUを記録した（Janeの40.08）。
• アンサンブルNMTシステム（E-NMT）を用いた場合、43.61 BLEUを達成し、Janeの40.53より3.08ポイント向上した。
• 翻訳例から、モデルがまれな語を適切に処理し、文法的にも正しい翻訳を生成できることを示しており、なめらかさと適切さのバランスが図れている。
• データシミュレーション戦略により、実際の複数システム出力が不要なため、訓練が効率的かつ実用的でスケーラブルなフレームワークが実現された。
• アンサンブルデコードは性能を顕著に向上させ、高品質な入力翻訳がシステム結合の成功に不可欠であることを示している。