[논문 리뷰] Noisy-parallel and comparable corpora filtering methodology for the extraction of bi-lingual equivalent data at sentence level

Krzysztof Wok|arXiv (Cornell University)|2015. 10. 15.

Natural Language Processing Techniques참고 문헌 25인용 수 4

한 줄 요약

이 논문은 번역 품질을 향상시키기 위해 노이즈가 있는 병렬 및 유사 코퍼스에서 고품질 이중어 문장 쌍을 추출하기 위해 언어에 종속되지 않은 문장 수준 필터링 방법론을 제안한다. 이 방법은 의미적, 구조적, 어원적 분석을 포함한 히우리스틱 기반 비교를 통해 데이터 손실을 최소화하면서 데이터를 정제한다. 이는 TED 토크스 및 위키백과 코퍼스에 적용되었을 때 기계 번역 시스템 성능 향상으로 이어진다.

ABSTRACT

Text alignment and text quality are critical to the accuracy of Machine Translation (MT) systems, some NLP tools, and any other text processing tasks requiring bilingual data. This research proposes a language independent bi-sentence filtering approach based on Polish (not a position-sensitive language) to English experiments. This cleaning approach was developed on the TED Talks corpus and also initially tested on the Wikipedia comparable corpus, but it can be used for any text domain or language pair. The proposed approach implements various heuristics for sentence comparison. Some of them leverage synonyms and semantic and structural analysis of text as additional information. Minimization of data loss was ensured. An improvement in MT system score with text processed using the tool is discussed.

연구 동기 및 목표

• 기계 번역에 사용되는 병렬 및 유사 코퍼스 내에서 저품질의 노이즈가 있는 문장 대응 문제를 해결하기 위해.
• 청결한 처리 과정에서 언어 다양성을 유지하고 데이터 손실를 최소화하는 필터링 접근법을 개발하기 위해.
• 다양한 도메인과 언어 쌍에서 고품질 이중어 문장 쌍을 효과적으로 추출할 수 있도록 하기 위해.
• 향상된 훈련 데이터 품질을 통해 기계 번역 시스템의 후속 성능 향상시키기 위해.
• 다양한 텍스트 도메인과 언어 쌍에 적용 가능한 확장 가능한 언어에 종속되지 않은 솔루션 제공하기 위해.

제안 방법

• 이 방법은 언어 간 문장을 비교하기 위해 다중 히우리스틱 접근법을 사용하며, 주로 구조적, 의미적, 어휘적 유사성에 중점을 둔다.
• 어휘 변동에도 불구하고 동일한 문장 쌍을 식별하기 위해 동의어 탐지 및 의미 분석을 활용한다.
• 언어에 종속되지 않은 설계로, 폴란드어-영어 쌍을 통해 검증되었지만, 어떤 언어 쌍에도 적용 가능하다.
• 문자 수준 일치, 품사 일치, 의미 임베딩 비교를 조합하여 문장 동치성을 평가한다.
• 히우리스틱을 순차적으로 적용하여 후보 문장 쌍을 점진적으로 정제함으로써 임의의 양성 결과를 줄인다.
• 이 방법은 TED 토크스 코퍼스에서 검증되었으며, 초기로 위키백과 유사 코퍼스에서 테스트되었으며, 다양한 도메인에서의 강건성을 입증했다.

실험 결과

연구 질문

• RQ1 노이즈가 있는 병렬 및 유사 코퍼스를 효과적으로 필터링하여 고품질 이중어 문장 쌍을 추출할 수 있는가?
• RQ2 언어 특화 기능에 의존하지 않고도 히우리스틱 기반 방법이 대응 품질을 얼마나 향상시킬 수 있는가?
• RQ3 의미적 및 구조적 분석이 노이즈가 많은 데이터에서 진정한 이중어 문장 대응을 어떻게 향상시킬 수 있는가?
• RQ4 데이터 정제가 기계 번역 시스템의 후속 성능에 어떤 영향을 미치는가?
• RQ5 문장 대응 정밀도를 유지하면서 필터링 과정에서 데이터 손실를 어떻게 최소화할 수 있는가?

주요 결과

• 정제된 훈련 데이터에 적용했을 때 필터링 방법론이 기계 번역 시스템 점수를 크게 향상시켰다.
• 노이즈가 많고 병렬이 아닌 코퍼스에서도 진정한 이중어 문장 쌍을 식별하는 데 높은 정밀도를 달성했다.
• TED 토크스 및 위키백과를 포함한 다양한 도메인에서 효과를 입증하여 광범위한 적용 가능성을 보였다.
• 의미적 및 구조적 히우리스틱을 사용함으로써 간단한 문자 일치 방법에 비해 임의의 양성 결과를 줄였다.
• 다단계 필터링 프로세스를 통해 언어적으로 다양하고 관련성이 높은 문장 쌍을 유지함으로써 데이터 손실를 최소화했다.
• 언어에 종속되지 않은 설계 덕분에 재학습이나 언어 특화 튜닝 없이도 어떤 언어 쌍에도 적용 가능하다.