[논문 리뷰] MSP: Multi-Stage Prompting for Making Pre-trained Language Models Better Translators

Zhixing Tan, Xiangwen Zhang외 2명|arXiv (Cornell University)|2021. 10. 13.

Topic Modeling인용 수 12

한 줄 요약

이 논문은 기계 번역을 위한 사전 훈련된 언어 모델(PLM)을 향상시키기 위해 다단계 프롬프팅(MSP)을 제안한다. MSP는 번역 과정을 인코딩, 재인코딩, 디코딩의 세 단계로 나누어 각 단계에서 별도로 학습 가능한 연속 프롬프팅을 적용한다. MSP는 평균적으로 프롬프트 튜닝 대비 18.6 BLEU 포인트, 프리픽스 튜닝 대비 4.1 BLEU 포인트 향상된 번역 성능을 달성한다.

ABSTRACT

Prompting has recently been shown as a promising approach for applying pre-trained language models to perform downstream tasks. We present Multi-Stage Prompting (MSP), a simple and automatic approach for leveraging pre-trained language models to translation tasks. To better mitigate the discrepancy between pre-training and translation, MSP divides the translation process via pre-trained language models into multiple separate stages: the encoding stage, the re-encoding stage, and the decoding stage. During each stage, we independently apply different continuous prompts for allowing pre-trained language models better shift to translation tasks. We conduct extensive experiments on three translation tasks. Experiments show that our method can significantly improve the translation performance of pre-trained language models.

연구 동기 및 목표

• 사전 훈련된 언어 모델(PLM)과 신경 기계 번역(NMT) 간의 성능 격차를 해소하기 위해 프롬프팅을 통해 PLM 기반 번역을 향상시키는 것.
• 단일 단계 프롬프팅이 해결하기 어려운 사전 훈련 목표와 번역 과제 간의 의미적 및 언어 분포 불일치 문제를 완화하는 것.
• GPT와 같은 단방향 디코더 전용 PLM의 한계를 극복하여 소스 문장을 인코딩하는 데 최적화되지 않은 모델의 문제를 해결하는 것.
• 파인튜닝 또는 어댑터 삽입 없이도 단일 PLM을 여러 번역 방향으로 효율적이고 파rameter 효율적으로 적응시킬 수 있도록 하는 것.
• 단일 PLM 내에서 소스 언어 표현에서 목표 언어 표현으로의 전이가 더 부드럽고 효과적으로 이루어질 수 있는지 탐색하는 것.

제안 방법

• 번역 과정을 세 단계로 분할한다: 인코딩(소스 표현 학습), 재인코딩(향상된 양방향 표현), 디코딩(목표 문장 생성).
• 각 단계에서 번역 과제를 향해 모델을 이끄는 독립적이고 미분 가능한 연속 프롬프팅을 적용하며, 역전파를 통해 학습한다.
• 실현의 단순성을 위해 백본으로 디코더 전용 사전 훈련된 언어 모델(mGPT 등)을 사용하고, 각 단계에서 위치 ID를 재설정한다.
• 프리픽스 튜닝과 프롬프트 튜닝 기법을 활용하여 각 단계에서 모델의 행동을 유도하는 연속 프롬프팅을 학습한다.
• 모든 단계에서 동일한 PLM를 유지하여 모델 재훈련이나 과제 간 파라미터 공유를 방지한다.
• 각 단계에서 고유한 프롬프팅을 사용해 모델의 생성을 조절하는 삼단계 파이프라인을 구현함으로써 소스 언어 공간에서 목표 언어 공간으로 점진적인 전이를 가능하게 한다.

실험 결과

연구 질문

• RQ1 다단계 프롬프팅은 단일 단계 프롬프팅에 비해 사전 훈련된 언어 모델의 번역 성능을 크게 향상시킬 수 있는가?
• RQ2 번역 과정을 인코딩, 재인코딩, 디코딩의 세 단계로 나누는 것이 번역의 의미적 및 언어적 제약과 더 잘 일치하는가?
• RQ3 다양한 언어 쌍에서 MSP는 프롬프트 튜닝 및 프리픽스 튜닝에 비해 BLEU 점수 향상에서 어떻게 비교되는가?
• RQ4 파인튜닝 또는 어댑터 레이어 없이도 단일 디코더 전용 PLM이 다단계 프롬프팅을 통해 효과적으로 번역을 수행할 수 있는가?
• RQ5 다른 단계에서 학습된 프롬프팅이 모델의 언어 생성 행동에 미치는 영향은 얼마나 크며, 이는 소스 언어에서 목표 언어로의 부드러운 전이를 나타내는가?

주요 결과

• MSP는 세 가지 번역 과제에서 평균적으로 프롬프트 튜닝 대비 18.6 BLEU 포인트, 프리픽스 튜닝 대비 4.1 BLEU 포인트 향상된 사전 훈련된 언어 모델의 번역 성능을 향상시켰다.
• WMT14 En-De 번역 과제에서 MSP는 21.2 BLEU 점수를 기록했으며, 가변 파ram터 수가 378M인 블로킹 모델(25.9 BLEU)을 능가함으로써, 프롬프팅 방법의 품질이 핵심적 한계 요소임을 시사한다.
• 생성된 텍스트의 언어 분포가 인코딩 단계의 영어에서 디코딩 단계의 중국어로 부드럽게 전이됨을 확인하여, MSP가 소스 언어 공간에서 목표 언어 공간으로의 일관된 전이를 가능하게 함을 입증했다.
• 디코딩 단계의 프롬프팅이 모델의 최종 생성 행동을 지배함으로써, 목표 언어 텍스트 생성 능력이 크게 향상됨을 확인했다.
• 특수 과제 파인튜닝이나 어댑터 모듈을 도입하지 않아도 PLM의 혼합 과제 추론 능력이 유지됨을 보여주었다.
• 학습된 프롬프팅의 해석 가능성은 떨어지지만, 각 단계에서의 특수 기능을 통해 MSP가 번역의 각 단계를 효과적으로 이끄는 것으로 확인되었다.