[논문 리뷰] Novelty Controlled Paraphrase Generation with Retrieval Augmented Conditional Prompt Tuning

Jishnu Ray Chowdhury, Yong Zhuang외 1명|arXiv (Cornell University)|2022. 02. 01.

Topic Modeling인용 수 4

한 줄 요약

이 논문은 대규모 사전 훈련된 언어 모델을 사용하여 파라미터 효율적이고 제어 가능한 번역문 생성을 위한 Retrieval Augmented Prompt Tuning (RAPT) 및 Novelty Conditioned RAPT (NC-RAPT)를 제안한다. kNN으로 검색한 예시를 연속형 프롬프트 테이닝에 통합하고, 다양한 어휘적 신선도 수준을 고려하기 위해 특수한 프롬프트 토큰을 도입함으로써, 네 개의 데이터셋에서 번역문 품질과 제어 가능성 향상이 이루어지며, 표준 미세조정 및 기준 대비 방법보다 뛰어난 성능을 보인다.

ABSTRACT

Paraphrase generation is a fundamental and long-standing task in natural language processing. In this paper, we concentrate on two contributions to the task: (1) we propose Retrieval Augmented Prompt Tuning (RAPT) as a parameter-efficient method to adapt large pre-trained language models for paraphrase generation; (2) we propose Novelty Conditioned RAPT (NC-RAPT) as a simple model-agnostic method of using specialized prompt tokens for controlled paraphrase generation with varying levels of lexical novelty. By conducting extensive experiments on four datasets, we demonstrate the effectiveness of the proposed approaches for retaining the semantic content of the original text while inducing lexical novelty in the generation.

연구 동기 및 목표

• 대규모 사전 훈련된 언어 모델의 번역문 생성에 대해 파라미터 효율적인 방법을 개발하는 것.
• 프롬프트 테이닝에 kNN으로 검색한 예시를 통합하여 번역문 품질을 향상시키는 것.
• 특수한 프롬프트 토큰을 통해 생성된 번역문의 어휘적 신선도 수준을 명시적으로 제어할 수 있도록 하는 것.
• 의미적 일치성을 유지하면서 번역문의 어휘 다양성을 증가시키는 것.
• 표준 사전 훈련된 모델과 호환되며, 모델에 종속되지 않는 연속 공간 프롬프트 테이닝 프레임워크를 제공하는 것.

제안 방법

• RAPT는 연속형 프롬프트 테이닝에 kNN 기반의 관련 훈련 예시 검색을 통합하여, 검색된 맥락으로 프롬프트 임베딩을 향상시킨다.
• 이 방법은 사전 훈련된 GPT 기반 모델을 사용하며, 번역문 생성을 프롬프트 템플릿을 활용한 자동 완성 작업으로 설정한다: 'Input: [x] \n Paraphrase: [y]'다.
• NC-RAPT에서는 입력에서의 편집 거리 수준(예: 낮음, 중간, 높음)에 따라 원하는 어휘적 신선도 수준을 조절할 수 있도록 특수한 프롬프트 토큰을 도입한다.
• 프롬프트 테이닝은 연속 공간에서 수행되어 전체 모델의 미세조정 없이도 최적의 프롬프트 임베딩을 학습할 수 있도록 기울기 업데이트를 허용한다.
• 검색된 예시는 프롬프트 맥락을 보강하는 데 사용되며, 관련 있는 맥락 예시를 제공함으로써 생성 품질을 향상시킨다.
• 이 접근법은 모델에 종속되지 않으며 표준 사전 훈련된 모델과 호환되며, 아키텍처 수정이나 사전 훈련/미세조정 불일치 문제를 피한다.

실험 결과

연구 질문

• RQ1 표준 프롬프트 테이닝과 비교해 볼 때, 검색 기반 프롬프트 테이닝이 번역문 생성 품질을 향상시킬 수 있는가?
• RQ2 검색된 예시를 포함한 연속 공간 프롬프트 테이닝이 번역문의 의미적 일치성과 어휘 다양성 향상에 기여하는가?
• RQ3 특수한 프롬프트 토큰이 생성된 번역문의 어휘적 신선도 수준을 효과적으로 제어할 수 있는가?
• RQ4 NC-RAPT는 표준 미세조정 및 기타 파라미터 효율적 방법과 비교해 번역문 품질과 어휘적 제어 측면에서 어떻게 성능을 내는가?
• RQ5 kNN 검색과 프롬프트 테이닝의 통합이 여러 번역문 데이터셋에 걸쳐 일반화되는가?

주요 결과

• RAPT는 네 개의 번역문 데이터셋에서 자동 평가 및 인간 평가 지표 모두에서 표준 미세조정 및 기타 파라미터 효율적 방법(예: 어댑터 테이닝, LoRA)보다 뛰어난 성능을 보였다.
• kNN으로 검색한 예시를 프롬프트 테이닝에 통합함으로써 번역문 품질이 크게 향상되었으며, 특히 의미 유사성과 어순 자연스러움 측면에서 두드러졌다.
• NC-RAPT는 편집 거리 측정 기준으로 어휘적 신선도 수준을 제어 가능한 번역문을 성공적으로 생성하였으며, 의미 일관성은 유지되었다.
• 인간 평가 결과, NC-RAPT가 생성한 번역문은 표준 모델 대비 더 다양하고 더 단순하지 않은 것으로 평가되었다.
• 입력과 높은 의미적 유사성을 유지하면서도 어휘 다양성에 대한 체계적인 제어가 가능함을 입증하며, 프롬프트 기반의 어휘적 제어 전략의 효과성을 보여주었다.
• 소수의 학습 가능한 파라미터만을 요구하면서도 표준 벤치마크에서 최고 성능을 달성하였다.