[논문 리뷰] Phrase-level Active Learning for Neural Machine Translation

Junjie Hu, Graham Neubig|arXiv (Cornell University)|2021. 06. 21.

Natural Language Processing Techniques참고 문헌 31인용 수 7

한 줄 요약

이 논문은 신경 기계 번역(NMT)을 위한 하이브리드 주동 학습 접근법을 제안하며, 도메인 내 레이블이 없는 데이터에서 전체 문장과 개별 어휘구를 동시에 선택하여 인간의 번역에 활용함으로써 도메인 적응의 효율성을 향상시킨다. 어휘구 수준과 문장 수준의 선택을 조합함으로써, 불확실성 기반 기준에 비해 최대 1.2 BLEU 향상을 달성하며, 특히 번역 예산이 제한된 상황에서 뛰어난 성능을 보인다.

ABSTRACT

Neural machine translation (NMT) is sensitive to domain shift. In this paper, we address this problem in an active learning setting where we can spend a given budget on translating in-domain data, and gradually fine-tune a pre-trained out-of-domain NMT model on the newly translated data. Existing active learning methods for NMT usually select sentences based on uncertainty scores, but these methods require costly translation of full sentences even when only one or two key phrases within the sentence are informative. To address this limitation, we re-examine previous work from the phrase-based machine translation (PBMT) era that selected not full sentences, but rather individual phrases. However, while incorporating these phrases into PBMT systems was relatively simple, it is less trivial for NMT systems, which need to be trained on full sequences to capture larger structural properties of sentences unique to the new domain. To overcome these hurdles, we propose to select both full sentences and individual phrases from unlabelled data in the new domain for routing to human translators. In a German-English translation task, our active learning approach achieves consistent improvements over uncertainty-based sentence selection methods, improving up to 1.2 BLEU score over strong active learning baselines.

연구 동기 및 목표

• 주동 학습을 통해 번역 비용을 줄이며 NMT에서 발생하는 도메인 이탈 문제를 해결하기 위해.
• 전체 문장을 선택하는 방식이 문장의 일부만 유의미한 정보를 담고 있을 경우 효율성이 떨어지는 문제를 해결하기 위해.
• 기존 PBMT에서 널리 쓰이는 어휘구 기반 주동 학습을 NMT 시스템으로 확장하기 위해, NMT는 전체 문장의 학습이 필요하기 때문이다.
• 더 나은 데이터 효율성을 위해 문장과 어휘구 선택을 융합한 하이브리드 선택 전략을 개발하기 위해.
• 제한된 예산 하에서 어휘구 번역을 NMT 미세조정에 통합할 경우의 효과성을 평가하기 위해.

제안 방법

• 레이블이 없는 도메인 내 데이터에서 전체 문장과 개별 어휘구(최대 4-그램)를 동시에 선택하는 하이브리드 주동 학습 전략을 제안한다.
• 문장 선택에는 문장 임베딩 유사도와 불확실성 기반 점수를, 어휘구 선택에는 어휘구 수준의 다양성과 정보성 기반 점수를 사용한다.
• 기존 문장 내 어휘구 교환을 통해 생성한 합성 데이터와 실제 어휘구 번역을 융합한 혼합 미세조정 전략을 도입한다.
• 맥락 기반 어휘구 통합 기법을 적용하지만, 노이즈가 유입되어 단순한 방법보다 성능이 열 劣하다는 것을 발견한다.
• 문장과 어휘구 번역의 균형을 맞추기 위해 고정된 번역 예산을 적용하며, 독일어-영어 의료 및 IT 도메인 번역에서 BLEU 점수를 통해 성능을 평가한다.
• 선택된 도메인 내 데이터로 미리 학습된 WMT NMT 모델을 사용하며, 어휘구 번역은 데이터 증강 및 혼합 학습을 통해 통합한다.

실험 결과

연구 질문

• RQ1 어휘구 수준의 주동 학습이 문장 수준 선택과 융합될 경우 NMT 도메인 적응에 기여할 수 있는가?
• RQ2 제한된 번역 예산 하에서 하이브리드 선택 전략의 성능은 순수 문장 기반 또는 어휘구 기반 선택 전략보다 어떻게 다를까?
• RQ3 모델 아키텍처를 수정하지 않고 어휘구 번역을 NMT 학습에 통합하는 최적의 방법은 무엇인가?
• RQ4 어휘구 교환을 통해 생성한 합성 데이터를 사용할 경우 실제 어휘구 번역을 사용하는 것보다 성능 향상이 이루어지는가?
• RQ5 어휘구 선택 전략의 선택이 저자원 도메인 적응 상황에서 최종 번역 품질에 어떤 영향을 미치는가?

주요 결과

• 하이브리드 선택 전략은 순수 문장 기반 또는 어휘구 기반 선택 전략보다 일관되게 뛰어난 성능을 보이며, BLEU 점수를 최대 1.2점 향상시킨다.
• 어휘구 기반 선택 전략만으로는 번역 예산이 적을 경우 성능이 열 劣하지만, 문장 선택과 융합될 경우 크게 향상된다.
• 어휘구 교환을 통해 생성한 합성 데이터와 실제 어휘구 번역을 혼합한 미세조정 전략은 합성 데이터만을 사용하는 것보다 성능이 뛰어나며, 특히 저비용 예산(예: 5,000단어) 상황에서 두드러진다.
• 맥락 기반 어휘구 통합(어휘구 번역에 문장 맥락을 첨부하는 방식)은 노이즈가 유입되어 가장 열 劣한 성능을 보였다.
• 문장 임베딩의 코사인 유사도를 통해 문장 선택을 수행한 결과, 불확실성 기반 방법보다 더 안정적이고 변동성이 낮은 성능을 기록했다.
• 랜덤 샘플링은 여전히 강력한 기준 성능을 보이지만, 하이브리드 접근법이 특히 번역 예산이 제한된 상황에서 이를 뛰어넘는다.