[논문 리뷰] Unsupervised Neural Machine Translation with SMT as Posterior Regularization

Shuo Ren, Zhirui Zhang외 3명|arXiv (Cornell University)|2019. 01. 14.

Natural Language Processing Techniques참고 문헌 28인용 수 18

한 줄 요약

이 논문은 뒤바꾸기 번역에서 발생하는 오차 누적 문제를 완화하기 위해 후행 정규화로서 어휘 기반 통계적 기계 번역(SMT)을 통합한 새로운 비지도 신경 기계 번역(NMT) 프레임워크를 제안한다. SMT와 NMT를 통합된 EM 프레임워크에서 함께 최적화함으로써, 노이즈가 섞인 뒤바꾸기 번역에서 비롯되는 오류를 줄이며, en-fr 및 en-de 번역 작업에서 최신 기술 수준의 성능을 달성한다.

ABSTRACT

Without real bilingual corpus available, unsupervised Neural Machine Translation (NMT) typically requires pseudo parallel data generated with the back-translation method for the model training. However, due to weak supervision, the pseudo data inevitably contain noises and errors that will be accumulated and reinforced in the subsequent training process, leading to bad translation performance. To address this issue, we introduce phrase based Statistic Machine Translation (SMT) models which are robust to noisy data, as posterior regularizations to guide the training of unsupervised NMT models in the iterative back-translation process. Our method starts from SMT models built with pre-trained language models and word-level translation tables inferred from cross-lingual embeddings. Then SMT and NMT models are optimized jointly and boost each other incrementally in a unified EM framework. In this way, (1) the negative effect caused by errors in the iterative back-translation process can be alleviated timely by SMT filtering noises from its phrase tables; meanwhile, (2) NMT can compensate for the deficiency of fluency inherent in SMT. Experiments conducted on en-fr and en-de translation tasks show that our method outperforms the strong baseline and achieves new state-of-the-art unsupervised machine translation performance.

연구 동기 및 목표

• 반복적인 뒤바꾸기 번역을 통해 생성된 노이즈가 섞인 가짜 평행 데이터로 인한 비지도 NMT의 오차 누적 문제를 해결한다.
• 어휘 테이블을 활용하여 SMT가 노이즈가 많은 데이터에 대해 강건함을 발휘함으로써 희귀하고 잘못된 번역 패턴을 걸러내는 데 활용한다.
• 모델 아키텍처를 수정하지 않고도 통합된 EM 프레임워크에서 SMT와 NMT를 공동으로 훈련시켜 상호 보완적인 향상을 가능하게 한다.
• NMT의 유창성과 SMT의 패턴 기반 노이즈 필터링을 결합하여 번역의 자연스러움과 정확도를 향상시킨다.
• 표준 벤치마크 작업에서 비지도 기계 번역의 최신 기술 수준 성능을 달성한다.

제안 방법

• 다국어 언어 모델을 사전 훈련하고, 교차 언어 문장 임베딩에서 유도된 단어 수준의 번역 테이블을 사용하여 SMT 모델을 초기화한다.
• SMT와 NMT의 공동 훈련을 후행 정규화 문제로 공식화함으로써 원래의 NMT 및 SMT 아키텍처를 유지한다.
• EM 알고리즘을 사용하여 두 모델을 반복적으로 최적화한다: SMT는 노이즈가 섞인 번역을 걸러내어 가짜 평행 데이터를 정제하고, NMT는 유창성을 향상시킨다.
• SMT 어휘 테이블을 활용하여 NMT 디코딩을 정규화함으로써 빈도가 높고 신뢰도가 높은 번역 패턴을 우선시한다.
• 점진적으로 두 모델을 향상시킨다: NMT는 SMT의 품질을 높이는 더 나은 가짜 데이터를 생성하고, SMT는 NMT의 오류가 많은 출력을 보정한다.
• 통합된 훈련 루프를 유지함으로써 SMT는 노이즈 제거 필터로 기능하고, NMT는 유창성을 향상시키며, 두 모델이 함께 진화하도록 한다.

실험 결과

연구 질문

• RQ1 SMT 모델은 반복적인 뒤바꾸기 번역 과정에서 비지도 NMT의 노이즈와 오류 전파를 효과적으로 줄일 수 있는가?
• RQ2 모델 아키텍처를 수정하지 않고 SMT와 NMT를 공동 최적화하여 상호 성능 향상을 이룰 수 있는가?
• RQ3 SMT 어휘 테이블을 통한 후행 정규화는 표준 뒤바꾸기 번역 기준 모델에 비해 번역 품질을 향상시키는가?
• RQ4 SMT를 후행 정규화자로 통합함으로써 NMT에서 희귀하거나 잘못된 번역 패턴의 누적 문제를 완화할 수 있는가?
• RQ5 통합된 EM 프레임워크는 비지도 환경에서 SMT와 NMT 간의 점진적 향상 가능성을 어느 정도 향상시키는가?

주요 결과

• 제안된 방법은 en-fr 및 en-de 비지도 기계 번역 벤치마크에서 모두 새로운 최신 기술 수준의 성능을 달성한다.
• 사례 연구 결과, SMT는 NMT의 오류를 효과적으로 수정한다. 예를 들어, "malade"를 "ill-fated"로 잘못 번역하는 경우, 희귀하고 잘못된 패턴을 걸러내어 정확도를 높인다.
• SMT 모델은 NMT가 생성한 가짜 데이터로부터 유익을 얻어 이후 반복에서 더 자연스러운 출력을 생성함으로써 双방향 향상이 가능함을 보여준다.
• NMT의 오류에 기인한 반복적 또는 일치하지 않는 어휘 조합(예: "plenty of" 또는 "canopy-back business")을 줄이는 데 성공한다.
• 통합된 EM 프레임워크는 점진적 정련을 가능하게 하며, NMT는 유창성을 향상시키고 SMT는 패턴의 신뢰성을 높여 안정적인 성능 향상을 이룬다.
• SMT의 노이즈에 대한 강건성을 어휘 테이블 정규화를 통해 활용함으로써 뒤바꾸기 번역에서의 오류 누적 문제를 효과적으로 완화한다.