[논문 리뷰] Translation of Patent Sentences with a Large Vocabulary of Technical Terms Using Neural Machine Translation

Zi Long, Takehito Utsuro외 2명|arXiv (Cornell University)|2017. 04. 14.

Statistical and Computational Modeling인용 수 7

한 줄 요약

이 논문은 일본어-중국어 특허 문장 번역을 위한 하이브리드 신경 기계 번역(NMT) 접근법을 제안한다. 희귀한 기술 용어의 큰 어휘를 다루는 데 특화되어 있으며, NMT 학습 중 기술 용어를 자리표시자로 대체하고, SMT를 사용해 이러한 토큰을 후처리 번역함으로써 번역 정확도를 향상시킨다. 이 방법은 기존 SMT 대비 최대 3.1 BLEU 및 2.3 RIBES 포인트 향상시키며, 동일한 기술을 적용하지 않은 NMT 시스템 대비 0.6 BLEU 및 0.8 RIBES 포인트 향상된다.

ABSTRACT

Neural machine translation (NMT), a new approach to machine translation, has achieved promising results comparable to those of traditional approaches such as statistical machine translation (SMT). Despite its recent success, NMT cannot handle a larger vocabulary because training complexity and decoding complexity proportionally increase with the number of target words. This problem becomes even more serious when translating patent documents, which contain many technical terms that are observed infrequently. In NMTs, words that are out of vocabulary are represented by a single unknown token. In this paper, we propose a method that enables NMT to translate patent sentences comprising a large vocabulary of technical terms. We train an NMT system on bilingual data wherein technical terms are replaced with technical term tokens; this allows it to translate most of the source sentences except technical terms. Further, we use it as a decoder to translate source sentences with technical term tokens and replace the tokens with technical term translations using SMT. We also use it to rerank the 1,000-best SMT translations on the basis of the average of the SMT score and that of the NMT rescoring of the translated sentences with technical term tokens. Our experiments on Japanese-Chinese patent sentences show that the proposed NMT system achieves a substantial improvement of up to 3.1 BLEU points and 2.3 RIBES points over traditional SMT systems and an improvement of approximately 0.6 BLEU points and 0.8 RIBES points over an equivalent NMT system without our proposed technique.

연구 동기 및 목표

• 희귀한 다단어 기술 용어의 큰 어휘를 가진 특허 문서 번역 과제를 해결하기 위해.
• 특허 텍스트에서 자주 발생하는 어휘 외(Out-of-Vocabulary, OOV) 기술 용어를 처리하는 데에 표준 NMT 시스템의 한계를 극복하기 위해.
• NMT의 유창성과 SMT의 기술 용어에 대한 정밀도를 조합함으로써 일본어-중국어 특허 문장의 번역 품질을 향상시키기 위해.
• SMT와 NMT 점수를 모두 활용해 보다 고품질 번역을 선택하는 재순서 정렬 및 재정렬 메커니즘을 개발하기 위해.
• 기존의 SMT와 기준 NMT 시스템을 모두 능가하는 실세계 특허 번역 벤치마크에서 이 방법의 효과성을 입증하기 위해.

제안 방법

• 이중 번역 학습 데이터의 모든 기술 용어를 고유한 기술 용어 토큰(TT)으로 대체함으로써, NMT 모델이 희귀 용어에 의해 혼란스럽지 않게 일반 문장 구조를 학습할 수 있도록 한다.
• 비기술적 요소만 번역되는 비슷한 병렬 코퍼스에서 NMT 모델을 학습시키며, 기술 용어는 자리표시자로 표현한다.
• 학습된 NMT 모델을 디코더로 사용해 여전히 기술 용어 토큰을 포함한 원천 문장을 번역함으로써, TT를 포함한 토큰 시퀀스를 생성한다.
• NMT 출력을 후처리하여, 병렬 어휘표를 기반으로 훈련된 어법 기반 SMT 시스템을 사용해 각 기술 용어 토큰을 해당 번역으로 대체한다.
• SMT 점수와 TT가 포함된 번역 문장의 NMT 재평가 점수의 평균을 계산하여 1,000개의 최상위 SMT 번역 결과를 재순서 정렬하고, 가장 높은 점수를 가진 출력을 선택한다.
• 직접 번역에 SMT 후처리 번역을 적용하고, NMT 기반 재평가를 사용해 SMT의 n-best 목록을 재정렬하는 두 가지 구성으로 방법을 적용한다.

실험 결과

연구 질문

• RQ1 기술 용어 토큰을 포함한 어휘가 축소된 병렬 코퍼스에서 학습된 NMT 시스템이 희귀 기술 용어를 포함한 특허 문장의 번역 품질을 향상시킬 수 있는가?
• RQ2 SMT 기반 기술 용어 토큰 후처리 번역 통합이 순수 NMT 또는 SMT 대비 전체 번역 품질에 어떤 영향을 미치는가?
• RQ3 SMT의 n-best 번역 결과에 대해 NMT 기반 재평가 점수가 BLEU 및 RIBES 지표 측면에서 번역 성능 향상에 얼마나 기여하는가?
• RQ4 제안된 방법이 특허 문서의 다단어 기술 용어를 다루는 데 있어 기존의 SMT 및 동등한 NMT 시스템을 모두 능가하는가?
• RQ5 하이브리드 NMT-SMT 접근법이 고립된 단어가 아닌 특정 번역이 있는 복잡한 다단어 구조의 어휘 외 기술 용어를 효과적으로 처리할 수 있는가?

주요 결과

• 제안된 NMT 시스템은 일본어-중국어 특허 문장 번역에서 기존의 어법 기반 SMT 시스템 대비 최대 3.1 BLEU 포인트 및 2.3 RIBES 포인트의 상당한 향상을 달성했다.
• 제안된 기술 용어 처리 기법을 적용하지 않은 동등한 NMT 시스템 대비 번역 성능이 약 0.6 BLEU 포인트 및 0.8 RIBES 포인트 향상되었다.
• SMT 점수와 NMT 재평가 점수의 평균을 사용한 재정렬 접근법이 가장 높은 BLEU 점수를 기록했으며, 이는 NMT 기반 재평가가 SMT의 n-best 목록에서 더 나은 번역을 효과적으로 식별함을 시사한다.
• 디코딩 방법(직접 NMT + SMT 후처리 번역)이 가장 높은 RIBES 점수와 가장 높은 인간 평가 점수를 기록했으며, 이는 더 우아한 유창성과 구조적 정확성을 의미한다.
• 시스템은 "laminated wafer"와 같은 복잡한 기술 용어를 중국어로 "laminated wafer"로 정확히 번역했으며, 기준 시스템은 문법적으로 잘못되거나 의미적으로 정확하지 못한 표현을 생성했다.
• 번역 중 다단어 기술 용어를 단일 단위로 취급함으로써 이 방법은 잘못된 분할 또는 개별 구성 요소 번역을 방지하여 기술 용어의 통합성을 효과적으로 유지했다.