[論文レビュー] Zero-Resource Neural Machine Translation with Multi-Agent Communication Game

Yun Chen, Yang Liu+1 more|arXiv (Cornell University)|Feb 9, 2018

Natural Language Processing Techniques参考文献 26被引用数 6

ひとこと要約

本論文では、画像とテキストの説明を併せ持つ単語対訳文が存在しないマルチモーダルデータのみを用いて、ゼロリソースニューラル機械翻訳（NMT）を実現するためのマルチエージェント通信ゲームフレームワークを提案する。キャプション生成エージェント（元言語）と翻訳エージェント（目的言語）が、画像を目的言語で記述するために相互にメッセージを送受信することで協働的に学習を行う。このモデルは並列コーパスに依存せず、ドイツ語から英語への翻訳で、同等の並列データの40%しか利用しない状況でも、オラクルBLEUスコアの75%を達成する。

ABSTRACT

While end-to-end neural machine translation (NMT) has achieved notable success in the past years in translating a handful of resource-rich language pairs, it still suffers from the data scarcity problem for low-resource language pairs and domains. To tackle this problem, we propose an interactive multimodal framework for zero-resource neural machine translation. Instead of being passively exposed to large amounts of parallel corpora, our learners (implemented as encoder-decoder architecture) engage in cooperative image description games, and thus develop their own image captioning or neural machine translation model from the need to communicate in order to succeed at the game. Experimental results on the IAPR-TC12 and Multi30K datasets show that the proposed learning mechanism significantly improves over the state-of-the-art methods.

研究の動機と目的

• 並列コーパスが入手不可である低リソースニューラル機械翻訳（NMT）におけるデータ不足問題に対処すること。
• 並列コーパスに依存せず、単語対訳文が存在しないマルチモーダルデータ（画像とテキストの説明）を活用してゼロリソースNMTを実現すること。
• ゲーム形式の環境においてエージェントが協働的に通信することで翻訳を学習する協調学習メカニズムを構築すること。
• 固定長のモダリティに依存しない表現に依存せず、性能を制限する要因を回避すること。
• ウェブクロールされたノイズを含むマルチモーダルデータが、効果的なゼロリソース翻訳を可能にするかどうかを検討すること。

提案手法

• キャプション生成エージェント（元言語）と翻訳エージェント（目的言語）の2つのエージェントからなるマルチエージェントフレームワークで、画像を目的言語で記述するためにメッセージを送受信する。
• エージェントは、最終的な目的言語による画像記述の品質に基づく共通の報酬を最大化するように強化学習により訓練される。
• キャプション生成エージェントが画像の元言語での記述を生成し、翻訳エージェントはそのメッセージを用いて目的言語での記述を生成する。
• 画像特徴と言語系列をアライメントするため、アテンション機構を備えたエンコーダ・デコーダアーキテクチャを採用する。
• 並列文ペアに依存しないように、期待報酬を最適化するためポリシー勾配法を用いて訓練を行う。
• IAPR-TC12 や Multi30K などのデータセットから得られる単語対訳文が存在しない画像・テキスト文書を用いて、キャプション生成エージェントと翻訳エージェントを共同で訓練する。

実験結果

リサーチクエスチョン

• RQ1 並列コーパスが一切存在しない状況でも、単語対訳文が存在しないマルチモーダルデータのみを用いて、ゼロリソースNMTシステムを効果的に訓練できるか？
• RQ2 ゲーム形式の環境における協働的マルチエージェント通信は、固定長表現手法よりも優れた翻訳性能を実現できるか？
• RQ3 本手法の性能は、完全な並列コーパスで訓練されたオラクルシステムと比べてどの程度か？
• RQ4 比較可能な文ペアの一部しか利用できない状況で、モデルの一般化性能はどの程度達成できるか？
• RQ5 固定長表現ではなく、協調学習を通じてアテンション機構をゼロリソースNMTに効果的に適用できるか？

主な発見

• 提案されたマルチエージェント通信ゲームは、ドイツ語から英語への翻訳において、完全な並列コーパスで訓練されたオラクルシステムのBLEUスコアの75%を達成する。
• Multi30K データセットでは、ベースラインで使用された比較可能な文ペアの40%のデータ量しか利用しない状況でも、オラクルシステムと同等の性能を示す。
• IAPR-TC12 データセットでは、並列文の15%の量しか利用しない状況でも、オラクル性能に匹敵する。
• 固定長のモダリティに依存しない表現に依存する最先端のゼロリソースNMTアプローチよりも顕著に優れた性能を示す。
• 協調的強化学習とアテンション機構の組み合わせにより、従来のピボットベースや固定表現手法よりも、より良いアライメントと翻訳品質が実現できる。
• 本フレームワークは、限定的な並列監視情報しか利用できない状況でも、単語対訳文が存在しない画像・テキストデータのみを用いて、低リソース翻訳に強い潜在的性能を示している。