[논문 리뷰] Modeling Coherence for Discourse Neural Machine Translation

Hao Xiong, Zhongjun He외 2명|arXiv (Cornell University)|2018. 11. 14.

Natural Language Processing Techniques참고 문헌 25인용 수 11

한 줄 요약

이 논문은 문장 수준 번역을 외부 텍스트 맥락을 활용해 개선함으로써 신경 기계 번역(NMT)에서 논리적 흐름의 일관성을 향상시키기 위해 보상 교사(보상 교사)를 갖춘 이단계 디코더 모델을 제안한다. 이중 순환 신경망 기반의 보상 교사에 의해 논리적 흐름 일관성을 최대화하는 정책 네트워크를 훈련시킴으로써, 강력한 기준 모델 대비 문장 수준에서 +1.23 BLEU, 논리적 흐름 수준에서 +2.2 BLEU의 성능 향상을 달성한다.

ABSTRACT

Discourse coherence plays an important role in the translation of one text. However, the previous reported models most focus on improving performance over individual sentence while ignoring cross-sentence links and dependencies, which affects the coherence of the text. In this paper, we propose to use discourse context and reward to refine the translation quality from the discourse perspective. In particular, we generate the translation of individual sentences at first. Next, we deliberate the preliminary produced translations, and train the model to learn the policy that produces discourse coherent text by a reward teacher. Practical results on multiple discourse test datasets indicate that our model significantly improves the translation quality over the state-of-the-art baseline system by +1.23 BLEU score. Moreover, our model generates more discourse coherent text and obtains +2.2 BLEU improvements when evaluated by discourse metrics.

연구 동기 및 목표

• 표준 NMT 모델이 문장 간 번역을 별도로 처리함으로써 발생하는 문장 간 일관성 부족 문제를 해결하기 위해.
• 문장 간 관계 및 논리적 연결을 모델링하여 텍스트의 자연스러움과 일관성을 향상시키기 위해.
• 유창하고 논리적인 흐름의 번역 생성을 유도하는 정책 학습 프레임워크를 개발하기 위해.
• 이중 순환 신경망 기반으로 훈련된 보상 교사가 정책 학습을 안내함으로써 논리적 흐름 일관성 향상의 효과를 검증하기 위해.

제안 방법

• 이단계 디코더 아키텍처: 첫 번째 단계에서 각 문장의 초안 번역을 생성하고, 두 번째 단계에서 외부 논리적 맥락을 활용해 이를 개선한다.
• 외부 맥락은 모델 자체가 다른 문장의 예측 번역 결과로부터 구성되며, 노출 오차를 감소시킨다.
• 이중 순환 신경망 기반의 보상 교사는 단어 임베딩 평균을 통해 문장 유사도를 모델링함으로써 논리적 흐름 일관성을 추정한다.
• 보상 교사는 Word2Vec 임베딩에서 평균 풀링된 단어 벡터 간 코사인 유사도를 사용해 문장 유사도를 계산한다.
• 강화 학습을 통한 정책 학습이 두 번째 단계 디코더를 최적화하여 논리적 흐름 일관성 보상 최대화를 달성한다.
• 모델는 트랜스포저 아키텍처를 사용해 엔드 투 엔드로 훈련되며, IWSLT TED 강연 데이터셋을 통해 미세조정된다.

실험 결과

연구 질문

• RQ1 외부 논리적 맥락을 활용한 이단계 디코딩 전략이 NMT에서 논리적 흐름 일관성을 향상시키는가?
• RQ2 논리적 흐름 일관성을 추정하는 보상 교사를 훈련시켜 정책 학습에 활용하면 생성된 텍스트의 자연스러움과 일관성이 향상되는가?
• RQ3 문장 수준 및 논리적 흐름 수준의 메트릭 모두에서 모델의 성능이 강력한 기준 모델과 비교해 어떻게 되는가?
• RQ4 보상 교사의 훈련 데이터 스타일이 생성된 번역 품질에 영향을 미치는가?

주요 결과

• 제안된 모델은 강력한 기준 모델 대비 문장 수준 BLEU 점수를 +1.23 향상시켰다.
• 논리적 흐름 수준 메트릭에서 모델은 기준 모델 대비 +2.2 BLEU 향상과 +1.98 METEOR 향상을 달성했다.
• TED 강연 데이터로 훈련된 보상 교사는 Gigaword와 같은 도메인 외부 코퍼스로 훈련된 것보다 우수한 성능을 보였으며, 이는 스타일 일관성이 중요함을 시사한다.
• 기준 모델 대비 더 다양한 적절한 연결어(예: 'And', 'But', 'So')를 생성함으로써 더 나은 논리적 유창성과 유사성을 보였다.
• 이웃한 문장 간 코사인 유사도는 첫 번째 단계에서 0.5943에서 이단계-BLEU-강화학습 단계로 0.6014로 증가하여 문장 수준의 일관성 향상을 보였다.
• 인간 평가 결과, 모델의 출력이 논리적 흐름과 유창성 면에서 인간 기준 번역에 더 가까운 것으로 나타났다.