[논문 리뷰] Improving the Performance of English-Tamil Statistical Machine Translation System using Source-Side Pre-Processing

M. Anand Kumar, V. Dhanalakshmi외 2명|arXiv (Cornell University)|2014. 09. 29.

Natural Language Processing Techniques참고 문헌 14인용 수 7

한 줄 요약

이 논문은 영어-타밀 통계적 기계 번역(SMT) 시스템에서 번역 정확도를 향상시키기 위해 어휘적 특징인 품사 태깅과 어형화를 포함한 원천 측 전처리를 제안한다. 번역 이전에 원천 측에 형태적 및 문법적 정보를 통합함으로써, BLEU 점수에서 뚜렷한 향상이 이루어졌으며, 이는 제한된 双방향 병렬 데이터로도 언어학적 전처리가 성능 향상에 기여할 수 있음을 보여준다.

ABSTRACT

Machine Translation is one of the major oldest and the most active research area in Natural Language Processing. Currently, Statistical Machine Translation (SMT) dominates the Machine Translation research. Statistical Machine Translation is an approach to Machine Translation which uses models to learn translation patterns directly from data, and generalize them to translate a new unseen text. The SMT approach is largely language independent, i.e. the models can be applied to any language pair. Statistical Machine Translation (SMT) attempts to generate translations using statistical methods based on bilingual text corpora. Where such corpora are available, excellent results can be attained translating similar texts, but such corpora are still not available for many language pairs. Statistical Machine Translation systems, in general, have difficulty in handling the morphology on the source or the target side especially for morphologically rich languages. Errors in morphology or syntax in the target language can have severe consequences on meaning of the sentence. They change the grammatical function of words or the understanding of the sentence through the incorrect tense information in verb. Baseline SMT also known as Phrase Based Statistical Machine Translation (PBSMT) system does not use any linguistic information and it only operates on surface word form. Recent researches shown that adding linguistic information helps to improve the accuracy of the translation with less amount of bilingual corpora. Adding linguistic information can be done using the Factored Statistical Machine Translation system through pre-processing steps. This paper investigates about how English side pre-processing is used to improve the accuracy of English-Tamil SMT system.

연구 동기 및 목표

• 통계적 기계 번역에서 저자원 언어 쌍(예: 영어-타밀)의 과제를 해결하기 위해.
• 광범위한 병렬 어휘 자료가 필요하지 않은 채로 원천 측에 언어학적 전처리를 적용함으로써 번역 품질을 향상시킬 수 있는지 조사하기 위해.
• 형태학적으로 풍부한 타밀어와 같은 목표 언어에서 형태학적 및 문법적 특징이 SMT 성능에 미치는 영향을 탐색하기 위해.
• 원천 측 언어학적 정보를 전처리하여 요인 기반 SMT의 효과를 평가하기 위해.
• 언어에 종속되지 않고 저자원 환경에 적합한 방식으로 SMT 성능을 향상시키기 위한 전처리 기반 접근법을 제공하기 위해.

제안 방법

• 영어 원천 문장에 품사(POS) 태깅을 적용하여 문법적 역할을 식별하기 위해.
• 영어 어휘에 어형화를 수행하여 분파 변형을 줄이고 단어 형태를 표준화하기 위해.
• 번역 모델링을 안내하기 위해 POS 및 어형 정보를 요인 기반 SMT 프레임워크에 통합하기 위해.
• 원천 측 전처리 특징을 SMT 시스템의 추가 요인으로 통합하여 정렬 및 번역 결정을 향상시키기 위해.
• 언어학적 전처리가 적용된 제한된 양의 双방향 병렬 어휘 자료를 기반으로 문맥 기반 SMT 시스템을 훈련하기 위해.
• 표준 평가 지표인 BLEU 점수를 사용하여 번역 품질을 평가하고 향상 정도를 측정하기 위해.

실험 결과

연구 질문

• RQ1 저자원 영어-타밀 SMT에서 원천 측 언어학적 전처리가 번역 품질 향상에 기여할 수 있는가?
• RQ2 품사 태깅과 어형화가 영어-타밀 번역을 위한 요인 기반 SMT 시스템 성능에 어떤 영향을 미치는가?
• RQ3 전처리가 형태학적으로 풍부한 언어(예: 타밀어)로의 번역에서 형태학적 및 문법적 과제를 어느 정도 완화하는가?
• RQ4 언어학적 전처리가 SMT 시스템에서 대규모 병렬 어휘 자료 의존도를 줄이는가?
• RQ5 원천 측 전처리 특징을 사용할 경우 번역 품질 향상이 통계적으로 유의미한가?

주요 결과

• 원천 측 전처리의 통합이 영어-타밀 SMT 시스템의 BLEU 점수를 뚜렷이 향상시켰다.
• 어형화와 품사 태깅이 번역의 단어 정렬을 향상시키고 불확실성을 감소시켰다.
• 전처리된 특징을 통합한 요인 기반 SMT 시스템이 언어학적 정보가 없는 기본 PBSMT 시스템보다 성능이 뛰어났다.
• 특히 타밀어 번역에서 동사 시제 및 동사 협동 오류 처리에서 향상이 두드러졌다.
• 결과적으로, 제한된 병렬 데이터로도 언어학적 전처리가 SMT 성능 향상에 기여함을 확인하였다.
• 이 접근법은 형태학적으로 풍부한 목표 언어를 위한 저자원 환경에서 실현 가능하고 효과적인 방법임을 보여주었다.