[论文解读] Zero-Resource Neural Machine Translation with Multi-Agent Communication Game

Yun Chen, Yang Liu+1 more|arXiv (Cornell University)|Feb 9, 2018

Natural Language Processing Techniques参考文献 26被引用 6

一句话总结

本文提出了一种多智能体通信游戏框架，用于仅使用单语多模态数据（图像及其文字描述）的零资源神经机器翻译。通过训练一个描述器智能体和一个翻译智能体，使其通过源语言消息协作描述目标语言中的图像，该模型在无并行语料库的情况下学习到有效的翻译，仅使用40%的可比并行数据，即在德语到英语的翻译任务中达到75%的基准BLEU分数。

ABSTRACT

While end-to-end neural machine translation (NMT) has achieved notable success in the past years in translating a handful of resource-rich language pairs, it still suffers from the data scarcity problem for low-resource language pairs and domains. To tackle this problem, we propose an interactive multimodal framework for zero-resource neural machine translation. Instead of being passively exposed to large amounts of parallel corpora, our learners (implemented as encoder-decoder architecture) engage in cooperative image description games, and thus develop their own image captioning or neural machine translation model from the need to communicate in order to succeed at the game. Experimental results on the IAPR-TC12 and Multi30K datasets show that the proposed learning mechanism significantly improves over the state-of-the-art methods.

研究动机与目标

• 为解决低资源神经机器翻译（NMT）中缺乏并行语料库的数据稀缺问题。
• 通过利用单语多模态数据（图像及其文字描述）而非依赖并行语料库，实现零资源NMT。
• 开发一种合作学习机制，使智能体在类游戏环境中通过通信学习翻译。
• 在不使用固定长度、模态无关表示方法（此类方法会限制性能）的前提下，提升翻译性能。
• 探究网络爬取的嘈杂多模态数据是否能够支持有效的零资源翻译。

提出的方法

• 一个包含两个智能体的多智能体框架：描述器（源语言）和翻译智能体（目标语言），通过消息通信协作，用目标语言描述图像。
• 智能体通过强化学习进行训练，以最大化基于最终目标语言图像描述质量的共享奖励。
• 描述器生成图像的源语言描述，翻译智能体则利用该消息生成目标语言的描述。
• 模型采用编码器-解码器架构，并结合注意力机制，以对齐图像特征与语言序列。
• 训练使用策略梯度方法，以优化期望奖励，避免依赖并行句子对。
• 该框架使用来自IAPR-TC12和Multi30K等数据集的单语图像-文本文档，联合训练描述器和翻译智能体。

实验结果

研究问题

• RQ1 能否仅使用单语多模态数据、完全不依赖任何并行语料库，有效训练零资源NMT系统？
• RQ2 在类游戏环境中，通过多智能体合作通信能否实现优于固定长度表示方法的翻译性能？
• RQ3 所提方法的性能与在完整并行语料库上训练的基准系统相比如何？
• RQ4 当仅提供少量可比句子对时，模型的泛化能力能达到何种程度？
• RQ5 在合作学习中，注意力机制能否在零资源NMT中有效应用，而非依赖固定长度表示？

主要发现

• 所提出的多智能体通信游戏在德语到英语翻译任务中，达到基准系统75%的BLEU分数。
• 在Multi30K数据集上，该模型的性能与在仅40%的可比句子对数量下训练的基准系统相当。
• 在IAPR-TC12数据集上，当仅使用15%的并行句子数量时，该模型达到与基准系统相当的性能。
• 该方法显著优于依赖固定长度、模态无关表示的最先进零资源NMT方法。
• 通过合作式强化学习与注意力机制的结合，实现了优于以往基于中间语或固定表示方法的对齐效果与翻译质量。
• 该框架在仅使用单语图像-文本数据的情况下，展现出在低资源翻译任务中的强大潜力，即使并行监督信息有限。