[논문 리뷰] Learning a Multi-Domain Curriculum for Neural Machine Translation

Wei Wang, Ye Tian외 4명|arXiv (Cornell University)|2019. 08. 28.

Natural Language Processing Techniques참고 문헌 45인용 수 4

한 줄 요약

이 논문은 신경 기계 번역(NMT)을 위한 다중 도메인 커리큘럼 학습 프레임워크를 제안하며, 예시 수준의 도메인 관련성과 노이즈 감소 기반으로 동적으로 학습 데이터를 선택하고 우선순위를 정합니다. 고품질의 다중 도메인 관련 예시에 점차적으로 초점을 맞추는 커리큘럼을 학습함으로써, 도메인 외부 데이터를 포함한 모든 도메인에서 뛰어난 성능을 달성하며, 대규모이고 노이즈가 많은 데이터셋에서 단일 도메인 및 커리큘럼 없음 기반 모델을 모두 능가합니다.

ABSTRACT

Most data selection research in machine translation focuses on improving a single domain. We perform data selection for multiple domains at once. This is achieved by carefully introducing instance-level domain-relevance features and automatically constructing a training curriculum to gradually concentrate on multi-domain relevant and noise-reduced data batches. Both the choice of features and the use of curriculum are crucial for balancing and improving all domains, including out-of-domain. In large-scale experiments, the multi-domain curriculum simultaneously reaches or outperforms the individual performance and brings solid gains over no-curriculum training.

연구 동기 및 목표

• 다양한 도메인에서 동시에 잘 일반화되는 단일 NMT 모델을 훈련하는 데 도전하는 것.
• 다중 도메인 NMT 훈련에서의 치명적 잊힘(catastrophic forgetting)과 데이터 불균형 문제를 극복하는 것.
• 도메인 관련성과 데이터 품질을 모두 우선순위로 삼는 동적 데이터 선택 방법을 개발하는 것.
• 훈련 중 도메인 레이블에 의존하지 않고도 도메인 내 및 도메인 외 테스트 세트에서 모델 성능을 향상시키는 것.
• 예시 수준의 특징을 기반으로 한 커리큘럼 학습이 정적 데이터 혼합 또는 손실 가중치 조정보다 뛰어나다는 것을 입증하는 것.

제안 방법

• 모든 훈련 예제에 대해 도메인 관련성과 데이터 품질을 측정하는 예시 수준의 특징을 도입합니다.
• 도메인 관련성과 노이즈 감소 점수의 가중 조합을 기반으로 훈련 예제를 정렬함으로써 다중 도메인 커리큘럼을 구성합니다.
• 도메인 커버리지와 데이터 품질을 균형 잡는 미분 가능한 목적 함수를 사용해 커리큘럼을 종합적으로 학습합니다.
• NMT 및 NLM 특징을 사용해 예시 수준의 관련성과 노이즈를 추정하고, 임계값 기반 선택 메커니즘을 통해 데이터 배치를 구성합니다.
• 동적 데이터 선택과 커리큘럼 학습을 결합하여 고품질의 다중 도메인 관련 예제에 점차 모델의 초점을 맞추는 것을 가능하게 합니다.
• 커리큘럼 학습을 통한 훈련과 도메인 내 데이터에 대한 피지컬 테이닝을 모두 지원하며, 모든 도메인에서 성능 향상을 유지합니다.

실험 결과

연구 질문

• RQ1 치명적 잊힘을 겪지 않고도 다수의 도메인에서 효과적으로 단일 NMT 모델을 훈련시킬 수 있는가?
• RQ2 다중 도메인 일반화를 향상시키기 위해 데이터 선택을 어떻게 동적이고 예시 중심으로 만들 수 있는가?
• RQ3 도메인 관련성과 노이즈 감소를 기반으로 한 커리큘럼 학습이 정적 데이터 혼합 또는 손실 가중치 조정보다 뛰어나게 되는가?
• RQ4 도메인 내 정확도를 향상시키는 동안 도메인 외부 데이터에서의 강력한 성능 유지를 할 수 있는가?
• RQ5 다른 특징 표현 방식(도메인별 대비 다중 도메인)이 커리큘럼 학습 성능에 어떤 영향을 미치는가?

주요 결과

• 다중 도메인 커리큘럼 방법은 각 도메인에서 별도로 최적화된 모델의 성능을 도달하거나 초월하며, 여러 도메인의 평균에서 39.2 BLEU 점수를 기록합니다.
• 커리큘럼 없이 훈련하는 것에 비해 상당한 성능 향상을 보이며, 노이즈가 많은 데이터셋에서 평균 BLEU 점수를 36.3에서 39.2로 향상시킵니다.
• 학습된 가중치를 사용한 커리큘럼 학습은 단순한 예시 손실 가중치 조정보다 뛰어나며, 특히 노이즈가 많은 데이터에서 3.9 BLEU의 향상을 보이며 D15 테스트 세트에서 두드러집니다.
• 최종 커리큘럼 모델을 도메인 내 데이터로 피지컬 테이닝하면 성능이 추가로 향상되어 평균 40.8 BLEU에 도달하며, 기준 피지컬 테이닝 모델을 초월합니다.
• 공통 다중 도메인 특징(Eq. 8)을 사용할 경우 도메인 별 특징의 선형 조합보다 略로 뛰어나 39.5 BLEU 대비 39.2 BLEU를 기록합니다.
• 그림 4의 특징 점수 추세를 통해 커리큘럼이 고품질의 다중 도메인 관련 예제에 점차 초점을 맞추는 것을 확인할 수 있습니다.