[논문 리뷰] Cost-Effective Training in Low-Resource Neural Machine Translation

Sai Koneru, Danni Liu외 1명|arXiv (Cornell University)|2022. 01. 14.

Natural Language Processing Techniques인용 수 4

한 줄 요약

이 논문은 단일 언어 사전 미학습, 소규모 双어 사전 통합, 그리고 새로운 능동 학습(Active Learning, AL) 전략을 결합하여 저자원 신경 기계 번역(NMT)을 위한 비용 효율적인 훈련 프레임워크를 제안한다. 교차 엔트로피 차이 샘플링과 사전 훈련 중 임bedding 동결을 활용하여, 일반적인 AL 대비 최대 13 BLEU 향상을 달성하며, 특히 0–50k 문장 쌍의 낮은 레이블링 예산 조건에서 성능을 크게 향상시킨다.

ABSTRACT

While Active Learning (AL) techniques are explored in Neural Machine Translation (NMT), only a few works focus on tackling low annotation budgets where a limited number of sentences can get translated. Such situations are especially challenging and can occur for endangered languages with few human annotators or having cost constraints to label large amounts of data. Although AL is shown to be helpful with large budgets, it is not enough to build high-quality translation systems in these low-resource conditions. In this work, we propose a cost-effective training procedure to increase the performance of NMT models utilizing a small number of annotated sentences and dictionary entries. Our method leverages monolingual data with self-supervised objectives and a small-scale, inexpensive dictionary for additional supervision to initialize the NMT model before applying AL. We show that improving the model using a combination of these knowledge sources is essential to exploit AL strategies and increase gains in low-resource conditions. We also present a novel AL strategy inspired by domain adaptation for NMT and show that it is effective for low budgets. We propose a new hybrid data-driven approach, which samples sentences that are diverse from the labelled data and also most similar to unlabelled data. Finally, we show that initializing the NMT model and further using our AL strategy can achieve gains of up to $13$ BLEU compared to conventional AL methods.

연구 동기 및 목표

• 매우 제한된 레이블링 예산(0–50k 문장 쌍) 조건에서 고품질 NMT 시스템을 구축하는 데 도전하는 것, 특히 저자원 또는 멸종 위험에 처한 언어에 초점 맞추기.
• 큰 예산을 전제로 하는 기존 능동 학습(AL) 방법의 한계를 극복하여 저자원 환경에서의 성능을 향상시키기.
• 사전 훈련 단계에서 단일 언어 데이터와 저비용 이중어 사전을 보조 지식 소스로 통합하여 모델 성능 향상시키기.
• 낮은 예산 조건에서 정보성 최대화를 위해 다양성과 집중도를 균형 잡는 새로운 데이터 기반 AL 전략 설계하기.
• 사전 훈련 중 단일 언어 데이터와 사전 지시를 통해 교차 언어 지식를 유지하고, AL의 잠재력을 저자원 환경에서 최대로 발휘하기 위해 필수적인 단계임을 입증하기.

제안 방법

• 마스킹 언어 모델링(MLM)과 비지도 기계 번역(UNMT)을 통해 단일 언어 데이터를 이용해 NMT 모델을 사전 훈련하여 교차 언어 표현을 초기화하기.
• 다양한 사전 투영 레이어를 사용해 소규모 저비용 이중어 사전(1,146개 항목)을 모델에 통합하여 단어 수준의 정렬을 유도하기.
• 불확실성과 비라벨 데이터와의 유사도가 높은 문장을 선택하는 새로운 AL 전략인 '교차 엔트로피 차이'를 제안하여 다양성과 집중도를 균형 잡기.
• MLM, UNMT, 및 미세조정 단계 전반에 걸쳐 임베딩 레이어를 동결하여 교차 언어 지식를 유지하고 치명적인 기억 상실을 방지하기.
• 레이블된 데이터셋에서 다양하게 샘플링하고 비라벨 데이터와 가장 유사한 문장을 선택하는 하이브리드 데이터 기반 접근법을 통해 선택 품질 향상시키기.
• 희귀어 처리 및 사전 커버리지 향상을 위해 사전 번역과 BPE 기반 서브워드 토크나이제이션(DP-BPE)을 사용하여 사전 훈련 단계에서 적용하기.

실험 결과

연구 질문

• RQ1 단일 언어 데이터와 소규모 사전을 사전 훈련에 활용하면, 제한된 레이블링 예산 조건에서 저자원 환경의 NMT 성능을 크게 향상시킬 수 있는가?
• RQ2 제안된 '교차 엔트로피 차이' AL 전략은 RTTL 및 n-gram 겹침과 같은 기존 전략과 비교해 저예산 환경에서 어떻게 성능을 내는가?
• RQ3 다중 단계 사전 훈련 중 임베딩 레이어를 동결하는 것이 최종 NMT 성능에 어떤 영향을 미치는가?
• RQ4 단일 언어 데이터, 사전 지시, 그리고 능동 학습을 조합하면, 단일 구성 요소만 사용할 경우보다 더 큰 성능 향상을 이끌 수 있는가?
• RQ5 소규모 저비용 사전을 효과적으로 활용하여 희귀어 번역 능력과 저자원 NMT 모델의 강건성을 향상시킬 수 있는가?

주요 결과

• 능동 학습 이전에 단일 언어 데이터와 소규모 사전(1,146개 항목)을 사전 훈련에 활용하면, 기존 AL 방법 대비 최대 13 BLEU 향상으로 성능 향상이 뚜렷하게 나타난다.
• 제안된 '교차 엔트로피 차이' AL 전략은 모든 언어 쌍에서 최첨단(SOTA) RTTL 방법과 경쟁 가능한 성능을 달성했으며, 칸나다어에서는 RTTL이 약간 우월하다.
• MLM, UNMT, 및 미세조정 단계 전반에 걸쳐 임베딩 레이어를 동결하는 것이 가장 우수한 결과를 낳았으며, En→Kn 번역에서 27.3 BLEU 점수를 기록해 비동결 버전을 압도했다.
• n-gram 겹침 전략은 모든 설정에서 성능 향상을 이끌지 못했으며, 이는 다양성만으로는 저자원 NMT에서 효과적인 능동 학습이 불가능함을 시사한다.
• DP-BPE를 통한 사전 지식 통합은 희귀어 예측 능력을 향상시켜 낮은 빈도어의 정렬 및 번역 품질 향상을 입증했다.
• 단일 언어 사전 훈련, 사전 통합, 그리고 새로운 AL 전략을 조합하면 엄격한 레이블링 제약 조건 하에서도 강건하고 비용 효율적인 파이프라인을 구축할 수 있으며, 성능 최적화를 달성할 수 있다.