[논문 리뷰] Machine Translation Approaches and Survey for Indian Languages

Nadeem Jadoon Khan, Waqas Anwar외 1명|arXiv (Cornell University)|2017. 01. 16.

Natural Language Processing Techniques참고 문헌 30인용 수 7

한 줄 요약

이 논문은 인도의 여덟 가지 언어(벵골어, 구자라트어, 힌두어, 말라요람어, 펀자브어, 타밀어, 텔루구어, 우르두어)에서 영어로의 어구 기반 통계적 기계 번역(SMT) 시스템을 평가한다. 제한된 병렬 데이터에도 불구하고 저자들은 평균 BLEU 점수 10%를 기록하는 기준선 시스템을 수립하여, 저자원 인도 언어 환경에서 언어학적 자원과 SMT 개발 향상의 필요성을 강조한다.

ABSTRACT

In this study, we present an analysis regarding the performance of the state-of-art Phrase-based Statistical Machine Translation (SMT) on multiple Indian languages. We report baseline systems on several language pairs. The motivation of this study is to promote the development of SMT and linguistic resources for these language pairs, as the current state-of-the-art is quite bleak due to sparse data resources. The success of an SMT system is contingent on the availability of a large parallel corpus. Such data is necessary to reliably estimate translation probabilities. We report the performance of baseline systems translating from Indian languages (Bengali, Guajarati, Hindi, Malayalam, Punjabi, Tamil, Telugu and Urdu) into English with average 10% accurate results for all the language pairs.

연구 동기 및 목표

• 부족한 자원이 있는 인도 언어 쌍에 대해 최신 어구 기반 SMT의 성능을 평가하기 위해.
• 병렬 어휘 자료가 희박한 상황에서 다수의 인도 언어를 영어로 번역하기 위한 기준선 번역 시스템을 수립하기 위해.
• 학습 데이터가 제한된 인도 언어를 위한 SMT 및 언어학적 자원 개발을 촉진하기 위해.
• 저자원 기계 번역에서 인도 언어의 주요 과제를 특정하기 위해.

제안 방법

• 번역 복호화를 위해 모세스와 같은 표준 도구를 사용한 어구 기반 SMT 시스템의 구현.
• 각 인도 언어 쌍에 대해 이용 가능한 병렬 단일 언어 및 병렬 어휘 자료의 사용.
• 병렬 문장에서 추정한 어구 번역 확률을 기반으로 한 번역 모델 학습.
• 목표 언어(영어)의 유창성을 향상시키기 위한 언어 모델 적용.
• 모든 언어 쌍에서 번역 품질을 측정하기 위해 BLEU 점수를 평가 지표로 사용.
• 기준선 시스템은 표준 SMT 파이프라인 설정 하에 학습 및 평가됨.

실험 결과

연구 질문

• RQ1 제한된 병렬 데이터를 가진 인도 언어 쌍에서 어구 기반 SMT의 성능은 어떠한가?
• RQ2 다양한 형태적 및 문법적 구조를 가진 다양한 인도 언어에서 기준선 SMT 시스템의 성능는 어떻게 되는가?
• RQ3 저자원 인도 언어를 위한 효과적인 SMT 시스템 개발의 주요 장애 요소는 무엇인가?
• RQ4 기존의 SMT 프레임워크는 인도 언어에서 최소한의 병렬 어휘 자료로 어느 정도의 만족스러운 번역 품질을 달성할 수 있는가?

주요 결과

• 모든 여덟 개의 인도 언어에서 영어로의 번역 쌍에 대해 평균 BLEU 점수는 10%였으며, 이는 낮지만 기준선 성능을 의미한다.
• 언어 간 성능 격차가 뚜렷했으며, 일부 쌍은 더 나은 데이터 가용성 또는 영어와의 언어학적 유사성으로 인해 높은 점수를 기록했다.
• 이 연구는 병렬 단일 언어 자료의 부족이 인도 언어의 SMT 성능을 심각하게 제한한다는 점을 확인한다.
• 자료 부족에도 불구하고 기준선 시스템이 성공적으로 구현되어, 저자원 환경에서 SMT의 실현 가능성을 입증했다.
• 결과는 더 큰 규모의 고품질 병렬 어휘 자료와 향상된 언어학적 자원이 급히 필요하다는 점을 강조한다.
• 이 연구는 향후 인도 언어 NLP 분야의 신경 기계 번역 및 데이터 증강 작업에 기초를 마련한다.