[논문 리뷰] Dynamic Data Selection and Weighting for Iterative Back-Translation

Zi-Yi Dou, Antonios Anastasopoulos외 1명|arXiv (Cornell University)|2020. 04. 07.

Natural Language Processing Techniques참고 문헌 40인용 수 8

한 줄 요약

이 논문은 도메인 적응, 저자원 및 고자원 설정에서 독일어-영어 및 리투아니아어-영어 번역 작업을 대상으로, 표적 도메인을 대표하는 문장 기반으로 동적으로 선택된 단일 언어 문장을 활용하고 번역 품질에 따라 백번역 데이터에 가중치를 부여함으로써 일반화 능력을 향상시키는 반복적 백번역을 위한 동적 커리큘럼 학습 전략을 제안한다. 이 방법은 강력한 베이스라인 대비 최대 1.8 BLEU 포인트 향상을 달성한다.

ABSTRACT

Back-translation has proven to be an effective method to utilize monolingual data in neural machine translation (NMT), and iteratively conducting back-translation can further improve the model performance. Selecting which monolingual data to back-translate is crucial, as we require that the resulting synthetic data are of high quality and reflect the target domain. To achieve these two goals, data selection and weighting strategies have been proposed, with a common practice being to select samples close to the target domain but also dissimilar to the average general-domain text. In this paper, we provide insights into this commonly used approach and generalize it to a dynamic curriculum learning strategy, which is applied to iterative back-translation models. In addition, we propose weighting strategies based on both the current quality of the sentence and its improvement over the previous iteration. We evaluate our models on domain adaptation, low-resource, and high-resource MT settings and on two language pairs. Experimental results demonstrate that our methods achieve improvements of up to 1.8 BLEU points over competitive baselines.

연구 동기 및 목표

• 고정된 선택 기준이 표적 도메인을 효과적으로 반영하지 못할 수 있는 반복적 백번역에서 정적 데이터 선택의 한계를 해결하기 위해.
• 학습 에포크 동안 일반 도메인에서 표적 도메인 분포로 점차 이동하는 단일 언어 데이터를 동적으로 선택하여 모델의 일반화 능력을 향상시키기 위해.
• 낮은 품질의 백번역으로 인한 노이즈를 줄이기 위해 품질 기반 가중치 부여 방식을 도입하여 열악한 번역을 낮은 가중치로 처리하기 위해.
• 저자원, 고자원, 도메인 적응 시나리오를 포함한 다양한 MT 설정에서 제안된 동적 선택 및 가중치 부여 전략의 효과성을 평가하기 위해.
• 선택된 데이터가 표적 분포를 더 잘 반영하고, 가중치 부여 전략이 노이즈가 많은 환경에서 강건성을 향상시킨다는 것을 확인하기 위한 경험적 및 정성적 분석 제공하기 위해.

제안 방법

• 동적 데이터 선택은 각 학습 에포크마다 다른 단일 언어 문장의 부분집합을 선택하는 커리큘럼 학습 전략으로 구현되며, 일반 도메인에서 표적 도메인 데이터로 점차 이동한다.
• 선택 과정은 표적 분포에 가까운 문장을 식별하고, 어휘가 없는 경우나 노이즈가 많은 경우를 줄이기 위해 표현력(예: LM-in 또는 TF-IDF)과 단순성(예: R-BLEU) 메트릭의 조합을 사용한다.
• 선택 임계값을 에포크에 따라 조정하여 동적 커리큘럼을 강제 적용함으로써, 각 단계에서 백번역 모델이 선택된 문장을 신뢰성 있게 번역할 수 있도록 보장한다.
• 백번역 품질에 기반해 데이터 가중치를 적용하며, 현재 번역 품질과 이전 반복에 비해 향상된 정도를 반영한 가중치를 사용한다.
• 선택 전략은 도메인 관련성을 강조하고, 가중치 전략은 번역 정밀도를 강조하는 방식으로 선택 및 가중치 부여 전략을 통합한다.
• 이 방법은 정규 및 합성 병렬 데이터를 사용하여 정방향 및 역방향 번역 학습 단계를 번갈아 가며 수행하는 반복적 백번역 프레임워크 내에서 적용된다.

실험 결과

연구 질문

• RQ1 학습 에포크에 따라 데이터 선택이 진화하는 동적 커리큘럼 전략이 반복적 백번역에서 도메인 적응에 기여하는가?
• RQ2 표현력과 단순성 메트릭을 조합하면 정적 선택 방법에 비해 표적 도메인 단일 언어 문장을 더 잘 선택하는가?
• RQ3 품질 기반 데이터 가중치 부여 방식이 반복적 백번역에서 낮은 품질의 백번역의 부정적 영향을 어느 정도 줄이는가?
• RQ4 제안된 방법은 저자원, 고자원 및 도메인 적응 시나리오에서 어떻게 성능을 발휘하는가?
• RQ5 선택된 데이터는 표적 분포를 효과적으로 반영하는가? 그리고 가중치 부여 전략은 노이즈가 많은 환경에서 성능 향상에 기여하는가?

주요 결과

• 제안된 동적 커리큘럼 전략은 저자원 설정에서 강력한 반복적 백번역 기반선 대비 최대 1.8 BLEU 포인트 향상을 달성한다.
• 고자원 설정에서는 기반선 대비 최대 0.6 BLEU 포인트 향상되며, 다양한 데이터 환경에서 일관된 성능 향상을 보여준다.
• 동적 선택 전략은 에포크 전체 동안 최소한 한 번 이상 52.5%의 단일 언어 문장을 선택하며, 각 에포크당 12.5%에서 21.5%의 선택된 문장을 교체함으로써 효과적인 다양성과 진화를 보여준다.
• 선택된 문장은 헬링거 거리 및 길이 분석을 통해 표적 분포를 강력하게 반영하고 있으며, 고품질 샘플은 짧고 표적 도메인 특성과 일치함을 확인하였다.
• 가중치 부여 전략은 노이즈가 많은 환경에서 가장 효과적이며, 낮은 품질의 백번역의 영향을 줄이고 강건성을 향상시킨다.
• 선택에 대해 LM-in과 LM-gen 메트릭을 조합하고, 표현력과 단순성에 대해 TF-IDF와 R-BLEU를 조합할 경우, 모든 설정에서 최고의 성능을 기록한다.