[논문 리뷰] Zero-Resource Neural Machine Translation with Multi-Agent Communication Game

Yun Chen, Yang Liu외 1명|arXiv (Cornell University)|2018. 02. 09.

Natural Language Processing Techniques참고 문헌 26인용 수 6

한 줄 요약

이 논문은 단말어 다중모odal 데이터(이미지와 텍스트 설명)만을 사용하여 자원이 없는 신경 기계 번역을 위한 다중 에이전트 통신 게임 프레임워크를 제안한다. 원천 언어 메시지를 통해 목표 언어에서 이미지를 함께 기술하도록 캡션 생성자와 번역가 에이전트를 훈련시킴으로써, 병렬 어휘자료 없이도 효과적인 번역을 학습할 수 있으며, 비교적 40%의 병렬 데이터만으로 독일어-영어 번역에서 오라클 BLEU 점수의 75%를 달성한다.

ABSTRACT

While end-to-end neural machine translation (NMT) has achieved notable success in the past years in translating a handful of resource-rich language pairs, it still suffers from the data scarcity problem for low-resource language pairs and domains. To tackle this problem, we propose an interactive multimodal framework for zero-resource neural machine translation. Instead of being passively exposed to large amounts of parallel corpora, our learners (implemented as encoder-decoder architecture) engage in cooperative image description games, and thus develop their own image captioning or neural machine translation model from the need to communicate in order to succeed at the game. Experimental results on the IAPR-TC12 and Multi30K datasets show that the proposed learning mechanism significantly improves over the state-of-the-art methods.

연구 동기 및 목표

• 병렬 어휘자료가 확보되지 않은 저자원 신경 기계 번역(NMT)에서의 데이터 부족 문제를 해결하기 위해.
• 병렬 어휘자료에 의존하지 않고 단말어 다중모달 데이터(이미지와 텍스트 설명)를 활용하여 자원이 없는 NMT를 가능하게 하기 위해.
• 게임형 환경에서의 상호작용을 통해 번역을 학습하는 협동 학습 메커니즘을 개발하기 위해.
• 성능을 제한하는 고정 길이의 모odal 무관 표현에 의존하지 않고 번역 성능을 향상시키기 위해.
• 웹 크롤링을 통해 확보한 노이즈가 있는 다중모달 데이터가 효과적인 자원이 없는 번역을 지원할 수 있는지 탐색하기 위해.

제안 방법

• 캡션 생성자(원천 언어)와 번역가(목표 언어)로 구성된 다중 에이전트 프레임워크로, 이미지를 목표 언어에서 기술하기 위해 메시지를 통해 소통한다.
• 에이전트들은 복합 보상 기반의 최적화를 통해 강화학습을 통해 훈련되며, 최종 목표 언어의 이미지 기술문의 품질에 따라 보상이 결정된다.
• 캡션 생성자가 이미지에 대한 원천 언어 기술문을 생성하고, 번역가 에이전트는 이를 메시지로 활용해 목표 언어 기술문을 생성한다.
• 이미지 특징과 언어 시퀀스 간의 정렬을 위해 어텐션 메커니즘을 활용한 인코더-디코더 아키텍처를 사용한다.
• 병렬 문장 쌍에 의존하지 않도록 정책 기반 강화학습 방법을 사용해 기대 보상을 최적화한다.
• IAPR-TC12 및 Multi30K와 같은 데이터셋의 단말어 이미지-텍스트 문서를 통합하여 캡션 생성자와 번역가를 함께 훈련한다.

실험 결과

연구 질문

• RQ1 병렬 어휘자료 없이도 단말어 다중모달 데이터만을 사용하여 자원이 없는 NMT 시스템을 효과적으로 훈련시킬 수 있는가?
• RQ2 게임형 환경에서의 협동 다중 에이전트 통신이 고정 길이 표현 방법보다 더 나은 번역 성능을 낼 수 있는가?
• RQ3 제안된 방법의 성능이 전체 병렬 어휘자료로 훈련된 오라클 시스템과 비교해 어떻게 되는가?
• RQ4 비교 가능한 문장 쌍의 일부만 제공될 경우 모델의 일반화 능력은 어느 정도인가?
• RQ5 고정 길이 표현이 아닌 협동 학습을 통해 어텐션 메커니즘이 자원이 없는 NMT에 효과적으로 적용될 수 있는가?

주요 결과

• 제안된 다중 에이전트 통신 게임은 독일어-영어 번역에서 오라클 시스템의 BLEU 점수의 75%를 달성한다.
• Multi30K 데이터셋에서, 기준 모델이 사용한 비교 가능한 문장 쌍의 40%만으로도 오라클 시스템과 유사한 성능을 기록한다.
• IAPR-TC12 데이터셋에서는 병렬 문장이 오라클 시스템의 15% 수준일 때도 오라클 성능을 재현한다.
• 고정 길이의 모달에 무관한 표현에 의존하는 최신 기술의 자원이 없는 NMT 접근법보다 뚜렷이 뛰어난 성능을 보인다.
• 협동 강화학습과 어텐션 메커니즘의 조합은 이전의 피벗 기반 또는 고정 표현 방법보다 더 나은 정렬과 번역 품질을 가능하게 한다.
• 단말어 이미지-텍스트 데이터만을 사용해도 저자원 번역에 강력한 잠재력을 보이며, 제한된 병렬 지도 정보에도 불구하고 효과적인 성능을 발휘한다.