[논문 리뷰] Utilizing Lexical Similarity between Related, Low-resource Languages for Pivot-based SMT

Anoop Kunchukuttan, Maulik Shah외 2명|arXiv (Cornell University)|2017. 02. 23.

Natural Language Processing Techniques참고 문헌 22인용 수 3

한 줄 요약

이 논문은 관련된 저자원 언어들을 피벗으로 사용하여 서브워드 수준의 피벗 기반 통계적 기계 번역(SMT) 시스템을 제안한다. 이는 어순음절(orthographic syllables, OS)과 바이트 페어 인코딩(BPE)을 활용하여 번역 품질을 향상시킨다. 결과적으로 서브워드 수준의 피벗 번역이 어휘 수준 및 형태소 수준의 피벗 번역을 능가하며, 직접 번역 모델과 경쟁 가능함을 입증한다. 특히 다수의 피벗 언어를 조합할 경우, 직접 병렬 코퍼스가 없는 상황에서도 효과적으로 보완된다.

ABSTRACT

We investigate pivot-based translation between related languages in a low resource, phrase-based SMT setting. We show that a subword-level pivot-based SMT model using a related pivot language is substantially better than word and morpheme-level pivot models. It is also highly competitive with the best direct translation model, which is encouraging as no direct source-target training corpus is used. We also show that combining multiple related language pivot models can rival a direct translation model. Thus, the use of subwords as translation units coupled with multiple related pivot languages can compensate for the lack of a direct parallel corpus.

연구 동기 및 목표

• 직접 병렬 코퍼스가 없는 관련 언어 간의 저자원 기계 번역 문제를 해결한다.
• 관련 언어 간의 어휘 유사성이 피벗 기반 번역 품질 향상에 활용될 수 있는지 조사한다.
• 서브워드 단위(OS 및 BPE)를 번역 단위로 활용하여 저자원 환경에서의 데이터 희소성 감소 및 일반화 능력 향상을 탐색한다.
• 다양한 피벗 언어를 조합하여 직접 번역 시스템의 성능에 도달하거나 이를 충족시키는지 평가한다.
• 서브워드 수준의 피벗 모델이 도메인 이탈 상황에서 얼마나 강건한지 평가한다.

제안 방법

• 원천-피벗 및 피벗-목표 언어 쌍 간에 서브워드 수준 단위(어순음절 및 BPE)를 사용하여 문장 기반 SMT 모델을 훈련한다.
• 단조적 복호화를 적용하여 관련 언어 간의 어순 유사성을 유지하고, 고차원(10-그램) 언어 모델을 사용하여 데이터 희소성을 줄인다.
• 복호화 중 어휘 수준의 튜닝을 적용하여 BLEU 점수를 최적화하고, 테스트 시점에 서브워드를 재조합하여 분할 해제를 수행한다.
• 원천 언어와 목표 언어 양쪽과 관련성이 높은 피벗 언어를 선택하여 어휘 유사성과 번역 일관성을 향상시킨다.
• 다양한 언어 쌍에서 유래한 번역 지식을 통합하기 위해 동일한 가중치를 사용한 선형 보간을 통해 다수의 피벗 모델을 결합한다.
• 직접 모델과 모든 피벗 모델 간에 동일한 가중치 보간을 적용하여 성능을 추가로 향상시킨다.

실험 결과

연구 질문

• RQ1 저자원 환경에서 서브워드 수준의 피벗 기반 SMT가 어휘 수준 및 형태소 수준의 피벗 모델을 능가할 수 있는가?
• RQ2 원천 언어와 목표 언어 간에 병렬 코퍼스가 존재하지 않을 경우, 서브워드 수준의 피벗 모델이 직접 번역 모델과 얼마나 경쟁력을 갖는가?
• RQ3 다양한 관련 언어를 사용한 다른 피벗 언어를 조합하여 다수의 피벗 모델을 결합할 경우 번역 성능이 향상되고 직접 모델의 품질에 도달하거나 이를 충족하는가?
• RQ4 서브워드 수준의 피벗 모델은 형태소 수준 또는 어휘 수준의 피벗 시스템에 비해 도메인 이탈 상황에서 얼마나 강건한가?
• RQ5 관련 언어 간의 어휘 유사성이 서브워드 단위를 통해 효과적으로 활용되어 번역 품질 향상에 기여할 수 있는가?

주요 결과

• 서브워드 수준의 피벗 모델(서브워드 OS 및 BPE)은 어휘 수준의 피벗 모델보다 5–10 BLEU 포인트 높은 성능을 보이며, 최고의 직접 형태소 수준 모델의 약 90%의 BLEU 점수를 달성한다.
• 서브워드 수준의 피벗 모델은 형태소 수준의 직접 모델의 95%의 BLEU 점수를 확보하여, 직접 병렬 데이터 없이도 강력한 경쟁력을 입증한다.
• 다양한 관련 언어를 사용한 피벗 언어를 조합한 모델은 (mar-ben에서 23.69 BLEU) 직접 모델(23.53 BLEU)과 경쟁 가능하며, 통계적으로 유의미한 결과(p < 0.05)를 보였다.
• 모든 피벗 모델과 직접 모델 간의 동일한 가중치 보간을 통해 성능을 더욱 향상시켰으며(24.41 BLEU), 일부 경우에서 직접 모델을 초월하는 성능을 기록했다.
• 서브워드 수준의 피벗 모델은 형태소 수준의 모델에 비해 도메인 이탈 상황(농업 도메인)에서 성능 저하가 현저히 적어 더 강건함을 보였다.
• 서브워드 단위의 사용은 데이터 희소성을 완화하고 특징 추정을 향상시켜, 제한된 병렬 데이터 상황에서도 다양한 피벗 언어가 번역 품질 향상에 기여할 수 있도록 했다.