[논문 리뷰] Zero-Shot Dual Machine Translation

Lierni Sestorain, Massimiliano Ciaramita외 2명|arXiv (Cornell University)|2018. 05. 25.

Natural Language Processing Techniques참고 문헌 20인용 수 18

한 줄 요약

이 논문은 다국어 신경 기계 번역과 강화 학습 기반 双방향 학습을 융합한 제로샷 이중 기계 번역 프레임워크를 제안한다. 단순한 단일 언어 데이터만을 사용하여 제로샷 번역 성능을 크게 향상시킨다. 이 방법은 스페인어-프랑스어 번역에서 초과 학습 기반 성능에 근접한 성능(2.2 BLEU 포인트 이내)을 달성하며, 러시아어를 포함한 6개 언어 쌍으로 확장할 경우 제로샷 방향 번역 성능을 최대 15.19 BLEU 포인트 향상시킨다.

ABSTRACT

Neural Machine Translation (NMT) systems rely on large amounts of parallel data. This is a major challenge for low-resource languages. Building on recent work on unsupervised and semi-supervised methods, we present an approach that combines zero-shot and dual learning. The latter relies on reinforcement learning, to exploit the duality of the machine translation task, and requires only monolingual data for the target language pair. Experiments show that a zero-shot dual system, trained on English-French and English-Spanish, outperforms by large margins a standard NMT system in zero-shot translation performance on Spanish-French (both directions). The zero-shot dual method approaches the performance, within 2.2 BLEU points, of a comparable supervised setting. Our method can obtain improvements also on the setting where a small amount of parallel data for the zero-shot language pair is available. Adding Russian, to extend our experiments to jointly modeling 6 zero-shot translation directions, all directions improve between 4 and 15 BLEU points, again, reaching performance near that of the supervised setting.

연구 동기 및 목표

• 제로샷 언어 쌍에 대한 병렬 단일 언어 데이터 의존도를 제거하여 자원이 적은 신경 기계 번역의 데이터 부족 문제를 해결한다.
• 강화 학습을 통한 이중 학습과 다국어 NMT를 융합하여 제로샷 번역 품질을 향상시킨다.
• 제로샷 쌍에 대한 병렬 데이터가 필요 없이도 다수의 언어 방향으로 확장 가능한 단일 모델 훈련을 가능하게 한다.
• 제로샷 쌍에 소량의 병렬 데이터가 존재할 경우에도 표준 제로샷 NMT보다 성능이 뛰어나다는 것을 입증한다.
• 러시아어를 포함한 다양한 언어 가문에서의 확장성과 내구성을 조사한다.

제안 방법

• 다국어 NMT 아키텍처를 채택하여 병렬 단일 언어 데이터를 사용해 여러 언어 쌍(예: en-fr, en-es)에서 공유 인코더-디코더 모델을 훈련한다.
• 입력에 특수 언어 식별 토큰을 도입하여 예측되지 않은 언어 쌍(예: es-fr) 간 번역을 가능하게 하는 제로샷 메커니즘을 도입한다.
• 강화 학습 기반 이중 학습 적용: 단일 언어 문장을 목표 언어로 번역한 후 다시 원본 언어로 되돌려 번역한다. 유창성과 복원도 점수를 보상으로 사용한다.
• 언어 모델 점수(유창성)와 복원 오차(역번역)를 조합한 보상 함수를 정의하여 강화 학습을 통해 정책을 최적화한다.
• 제로샷 언어 쌍의 병렬 데이터 없이도 단일 언어 데이터만을 사용해 종합적으로 훈련한다.
• 공통 어휘와 단일 언어 데이터를 사용해 모든 언어 쌍(영어, 스페인어, 프랑스어, 러시아어 포함)을 동시에 훈련하여 6개 언어 쌍으로 프레임워크를 확장한다.

실험 결과

연구 질문

• RQ1 제로샷 언어 쌍에 대한 병렬 데이터가 전혀 없이도 초과 학습 기반 성능에 근접한 성능을 달성할 수 있는가?
• RQ2 강화 학습을 통한 다국어 NMT와 이중 학습을 융합하면 표준 제로샷 NMT에 비해 제로샷 번역 품질이 어떻게 향상되는가?
• RQ3 러시아어와 같은 다른 언어 가문의 언어 쌍을 포함해 다수의 언어 쌍으로 확장 가능한가?
• RQ4 제로샷 언어 쌍에 소량의 병렬 데이터가 존재할 경우에도 성능 향상이 이루어지는가?
• RQ5 언어 가문의 다양성과 모델 용량은 제로샷 이중 학습 프레임워크의 일반화 능력과 성능에 어떤 영향을 미치는가?

주요 결과

• 스페인어-프랑스어 번역에서 병렬 데이터 없이도 표준 다국어 NMT 기반 모델보다 최대 32.58 BLEU 포인트 높은 성능을 달성한다.
• 스페인어-프랑스어 번역에서 초과 학습 기반 NMT 시스템에 비해 2.2 BLEU 포인트 이내의 성능을 달성하여 단일 언어 데이터만으로도 초과 학습 수준의 성능을 구현한다.
• 제로샷 쌍에 소량의 병렬 데이터(100만 문장)를 추가로 제공했을 경우, 기본 NMT 모델 대비 0.67~2.53 BLEU 포인트 향상된 성능을 기록한다.
• 러시아어를 포함한 6개 언어 쌍으로 확장했을 경우, 모든 제로샷 방향 번역 성능이 4~15.19 BLEU 포인트 향상되었으며, 초과 학습 기반 기준에 대해 일관되게 2~3 BLEU 포인트 이내로 유지된다.
• 다양한 언어 쌍, 특히 다른 언어 가문의 언어 쌍에서도 일관된 성능 향상을 보이며 강력한 다국어 일반화 능력을 입증한다.
• 러시아어(인도·계열어가 아닌 언어)로의 번역에서도 뛰어난 성능을 유지하여 언어 다양성에 대한 내구성을 보여준다.