[논문 리뷰] Automatic Construction of Discourse Corpora for Dialogue Translation

Longyue Wang, Xiaojun Zhang외 3명|arXiv (Cornell University)|2016. 05. 22.

Natural Language Processing Techniques참고 문헌 22인용 수 18

한 줄 요약

이 논문은 정보 검색 기반 접근법을 사용해 단일어 영화 각본과 双어 하역문을 정렬하여 대화 기계 번역을 위한 대규모 병렬 논의 코퍼스를 자동으로 구성하는 방법을 제안한다. 이 방법은 화자 및 대화 경계 주석 처리에서 각각 81.79% 및 98.64%의 정확도를 달성하며, 화자 기반 언어 모델 적응을 통해 번역 품질을 최대 0.5 BLEU 포인트 향상시켰으며, 공개된 10만 문장 분량의 중국어-영어 대화 코퍼스를 제공한다.

ABSTRACT

In this paper, a novel approach is proposed to automatically construct parallel discourse corpus for dialogue machine translation. Firstly, the parallel subtitle data and its corresponding monolingual movie script data are crawled and collected from Internet. Then tags such as speaker and discourse boundary from the script data are projected to its subtitle data via an information retrieval approach in order to map monolingual discourse to bilingual texts. We not only evaluate the mapping results, but also integrate speaker information into the translation. Experiments show our proposed method can achieve 81.79% and 98.64% accuracy on speaker and dialogue boundary annotation, and speaker-based language model adaptation can obtain around 0.5 BLEU points improvement in translation qualities. Finally, we publicly release around 100K parallel discourse data with manual speaker and dialogue boundary annotation.

연구 동기 및 목표

• 기계 번역을 위한 고품질의 구조화된 병렬 대화 코퍼스 부족 문제 해결.
• 화자 태그, 대화 경계 등 풍부한 대화 구조를 가진 단일어 영화 각본과 병행 문장 정렬을 위한 이중어 하역문을 활용.
• 단일어 각본의 논의 수준 주석(화자, 대화 세그먼트)을 그에 해당하는 이중어 하역문 세그먼트로 자동으로 매핑하는 파이프라인 개발.
• 분야 적응 언어 모델을 사용해 화자 정보가 대화 번역 품질에 미치는 영향 평가.
• 수동 검증된 중국어-영어 대화 코퍼스 약 10만 문장 쌍을 공개 제공하며, 화자 및 경계 주석 포함.

제안 방법

• 웹에서 단일어 영화 각본과 그에 해당하는 이중어 하역문을 크롤링.
• 장면/샷 경계 정보를 활용해 영화 각본에서 대화 경계 및 화자 태그 추출.
• 정보 검색(IR) 기반 접근법을 적용해 각본 수준의 논의 주석(화자, 대화 세그먼트)을 정렬된 하역문 문장에 매핑.
• 단어 정렬 및 문장 수준의 병행성 기반으로 각본과 하역문 세그먼트 간 정확한 매핑 보장.
• 기본 모델(Moses 기반 MT 시스템)을 생성된 병행 코퍼스에 대해 5-그램 언어 모델로 훈련.
• 화자 성별에 따라 훈련 데이터를 분할하고, 두 개의 별도 언어 모델을 MT 디코더에 통합함으로써 화자 기반 언어 모델 적응 구현.

실험 결과

연구 질문

• RQ1 정보 검색 기반 접근법을 사용해 단일어 각본에서 유사한 이중어 하역문으로 논의 수준 주석(화자 및 대화 경계)을 신뢰성 있게 투영할 수 있는가?
• RQ2 수동 기준과 비교했을 때 자동 주석 처리의 화자 및 대화 경계 레이블 정확도는 어느 정도인가?
• RQ3 언어 모델에 화자 신원을 통합함으로써 대화 기계 번역 품질에 어느 정도 향상 효과가 있는가?
• RQ4 제안된 방법이 대규모 고품질 병행 대화 코퍼스를 생성하는 데에 스케일러블한가?
• RQ5 논의 구조는 신경 기반 및 통계 기반 기계 번역 시스템에서 통일성과 유창성에 어떤 영향을 미치는가?

주요 결과

• 각본에서 하역문으로 화자 태그를 자동으로 매핑한 결과, 수동 주석과 비교해 81.79%의 정확도를 기록.
• 대화 경계 자동 주석 처리 정확도가 98.64%에 도달하여, IR 기반 정렬 방법의 높은 신뢰성을 입증.
• 화자 기반 언어 모델 적응이 중국어-영어 테스트 세트에서 +0.50 BLEU 포인트, 영어-중국어 테스트 세트에서 +0.43 BLEU 포인트의 번역 성능 향상 효과를 보였다.
• 제안된 방법은 풍부한 논의 주석을 포함한 10만 문장 분량의 병행 대화 코퍼스를 성공적으로 생성하였으며, 연구 목적 공개 제공.
• 결과는 화자 신원과 대화 구조가 대화 번역의 유창성과 통일성 향상에 유의미한 신호로 기능함을 입증.
• 이 방법은 확장 가능하며, 쉽게 확보 가능한 웹 자원에서 세그먼트 수준의 병행 논의 코퍼스를 대규모로 구축하는 데 효과적임.