[논문 리뷰] Text Repair Model for Neural Machine Translation.

Markus Freitag, Isaac Caswell외 1명|arXiv (Cornell University)|2019. 04. 09.

Natural Language Processing Techniques참고 문헌 11인용 수 9

한 줄 요약

이 논문은 신경 기계 번역(NMT)의 후처리기로 번역어체를 수정하고 유창성을 향상시키기 위해 텍스트 복구 모델을 제안한다. 영어를 거쳐 순환 번역한 단일 언어 데이터를 기반으로 훈련된 모델은 영어-독일어 및 영어-루마니아어 작업에서 BLEU 점수를 최대 2.5점 향상시키며, WMT 최고 수준의 시스템 출력에도 적용 가능하다.

ABSTRACT

In this work, we train a text repair model as a post-processor for Neural Machine Translation (NMT). The goal of the repair model is to correct typical errors introduced by the translation process, and convert the translationese output into natural text. The repair model is trained on monolingual data that has been round-trip translated through English, to mimic errors that are similar to the ones introduced by NMT. Having a trained repair model, we apply it to the output of existing NMT systems. We run experiments for both the WMT18 English to German and the WMT16 English to Romanian task. Furthermore, we apply the repair model on the output of the top submissions of the most recent WMT evaluation campaigns. We see quality improvements on all tasks of up to 2.5 BLEU points.

연구 동기 및 목표

• 신경 기계 번역(NMT)에서 자연스럽지 않고 유창하지 않은 번역어체 출력 문제를 해결하기 위해.
• 일반적인 NMT에 의해 유도되는 오류를 수정하여 더 자연스러운 어조의 텍스트를 생성하는 후처리기 개발을 위해.
• 순환 번역을 통해 인위적으로 손상된 단일 언어 데이터를 기반으로 복구 모델을 훈련하기 위해.
• 표준 NMT 시스템과 최고 성능을 보인 WMT 제출물 모두에 대해 복구 모델을 평가하기 위해.

제안 방법

• 복구 모델은 먼저 영어로 번역하고 다시 원본 언어로 다시 번역하여 인위적으로 손상된 단일 언어 문장을 기반으로 훈련된다. 이 과정은 NMT 오류를 모의하는 데 사용된다.
• 이 순환 번역 과정은 실제 NMT 출력물에서 관찰되는 오류와 유사한 오류를 포함한 합성 훈련 데이터를 생성한다.
• 복구 모델은 오류가 포함된 변형된 버전에서 원래의 자연스러운 단일 언어 문장을 예측하도록 순서 기반 시퀀스 모델로 훈련된다.
• 이 모델은 NMT 출력물에 후처리기로 적용되어 모델의 원래 번역을 더 자연스럽게 수정된 버전으로 대체한다.
• 이 방법은 번역 후 편집을 위해 병렬 데이터가 필요 없이 단일 언어 데이터만을 활용한다.
• 이 방법은 저자원(2016년 WMT 영어-루마니아어) 및 고자원(2018년 WMT 영어-독일어) 번역 작업 모두에서 평가된다.

실험 결과

연구 질문

• RQ1 순환 번역된 단일 언어 데이터를 기반으로 훈련된 텍스트 복구 모델이 NMT 출력물의 번역어체를 효과적으로 수정할 수 있는가?
• RQ2 이러한 복구 모델을 표준 NMT 시스템에 적용했을 때 번역 품질 향상은 어느 정도 이루어지는가?
• RQ3 복구 모델은 최고 성능을 내는 NMT 시스템, 특히 최고의 WMT 제출물에도 일반화되는가?
• RQ4 저자원 언어 쌍(예: 영어-루마니아어)을 포함한 다양한 언어 쌍에서 일관된 향상이 이루어지는가?

주요 결과

• 복구 모델은 WMT18 영어-독일어 번역 작업에서 번역 품질을 최대 2.5 BLEU 포인트 향상시켰다.
• 모델은 WMT16 영어-루마니아어 작업에서도 일관된 향상을 달성하여 저자원 환경에서도 효과적임을 입증했다.
• 최근 WMT 평가 캠페인에서 최고 성능을 내는 NMT 시스템의 출력도 복구 모델로 향상시킬 수 있었다.
• 모델의 성능 향상 요인은 번역어체에서 흔히 나타나는 부자연스러운 어순과 문장 구조 오류를 수정할 수 있는 능력에 기인한다.
• 순환 번역된 단일 언어 데이터 사용은 병렬 데이터 없이도 효과적으로 NMT 오류를 모의할 수 있어 효과적인 훈련을 가능하게 한다.
• 이 방법은 후처리기로서 효과적이며, 주요 NMT 모델을 재학습하지 않고도 유창성을 크게 향상시킬 수 있음을 보여준다.