[논문 리뷰] PSP: Pre-trained Soft Prompts for Few-Shot Abstractive Summarization

Xiaochen Liu, Yang Gao외 5명|arXiv (Cornell University)|2022. 04. 09.

Topic Modeling인용 수 7

한 줄 요약

이 논문은 소수의 예시에서 개괄적 요약을 수행하기 위한 경량 튜닝 방법인 PSP(사전 훈련된 소프트 프롬프트)를 제안한다. 이 방법은 인코더와 디코더 입력 모두에 연속적인 소프트 프롬프트를 사용하며, 소스 텍스트 내부에 배치된 인너-프롬프트를 통해 문서 이해를 향상시킨다. 모델 파라미터의 단지 0.1%만 미세조정함으로써, PSP는 전체 모델 미세조정과 Prompt Tuning를 뛰어넘으며, 3%의 파라미터를 사용하는 Prefix-Tuning과 경쟁 가능한 성능을 달성한다. 이는 자원이 제한된 요약 설정에서 뛰어난 효과성과 효율성을 보여준다.

ABSTRACT

Few-shot abstractive summarization has become a challenging task in natural language generation. To support it, we designed a novel soft prompts architecture coupled with a prompt pre-training plus fine-tuning paradigm that is effective and tunes only extremely light parameters. The soft prompts include continuous input embeddings across an encoder and a decoder to fit the structure of the generation models. Importantly, a novel inner-prompt placed in the text is introduced to capture document-level information. The aim is to devote attention to understanding the document that better prompts the model to generate document-related content. The first step in the summarization procedure is to conduct prompt pre-training with self-supervised pseudo-data. This teaches the model basic summarizing capabilities. The model is then fine-tuned with few-shot examples. Experimental results on the CNN/DailyMail and XSum datasets show that our method, with only 0.1% of the parameters, outperforms full-model tuning where all model parameters are tuned. It also surpasses Prompt Tuning by a large margin and delivers competitive results against Prefix-Tuning with 3% of the parameters.

연구 동기 및 목표

• 라벨이 부족한 소수의 예시에서의 개괄적 요약 과제를 해결하기 위해, 전체 모델 미세조정이 과적합과 높은 계산 비용을 유발하는 문제를 해결한다.
• 표준 Prompt Tuning이 개괄적 요약 과제에서 성능이 열악한 데 기인하여, 더 효과적인 소프트 프롬프트 아키텍처를 설계한다.
• 입력 텍스트 내부에 배치된 구조화된 인너-프롬프트를 통해 문서 수준의 이해력과 생성 문장의 유창성을 향상시킨다.
• 사전 훈련된 프롬프트와 가벼운 소프트 프롬프트 튜닝을 도입함으로써, 최소한의 파라미터 업데이트로도 효율적인 소수 예시 적응을 가능하게 한다.
• 사전 훈련된 프롬프트와 인너-프롬프트가 강력한 제로샷 및 소수 예시 요약 성능을 확보하는 데 필수적임을 입증한다.

제안 방법

• 주요 모델 파라미터를 업데이트하지 않고도 생성을 이끄는 연속 임베딩을 인코더 및 디코더 입력 앞에 삽입하는 소프트 프롬프트 아키텍처를 제안한다.
• 소스 문서 내부에 배치된 세 가지 유형의 인너-프롬프트—간격형, 순차형, 고정 길이형—을 도입하여 다양한 정도의 구조적 및 의미적 정보를 포착한다.
• 두 단계 훈련 파라다임을 구현한다: 첫 번째 단계는 자기지도 학습 기반의 가짜 요약 데이터를 사용해 기본 요약 능력을 심기 위한 프롬프트 사전 훈련; 두 번째 단계는 소수 예시를 사용해 소프트 프롬프트만 미세조정한다.
• 고정된 사전 훈련된 인코더-디코더 모델(예: BART)을 사용하고, 소프트 프롬프트 임베딩만 업데이트함으로써 훈련 가능한 파라미터를 극도로 줄인다.
• 어텐션 메커니즘을 활용해 프롬프트가 모델이 관련 문서 내용에 집중하도록 이끄는 방식과 유창한 요약 생성 방식을 분석한다.
• 히우리스틱 규칙을 통해 가짜 요약 코퍼스를 구축하여 프롬프트 사전 훈련을 지원하고, 소수 예시 적응을 위한 초기화를 향상시킨다.

실험 결과

연구 질문

• RQ1 인코더와 디코더 입력 양쪽에 연속 임베딩을 가진 소프트 프롬프트 아키텍처가 소수 예시에서의 개괄적 요약을 효과적으로 가능하게 하는가?
• RQ2 소스 텍스트 내부에 배치된 인너-프롬프트가 모델의 문서 구조 및 의미 이해를 향상시키는가?
• RQ3 강력한 소수 예시 및 제로샷 성능을 달성하기 위해 프롬프트 사전 훈련이 필수적인가?
• RQ4 Proposed PSP 방법은 전체 미세조정 및 기존의 Prompt Tuning 기반 기준(예: Prompt Tuning, Prefix-Tuning)과 비교해 성능 및 효율성 면에서 어떻게 성과를 내는가?
• RQ5 다양한 유형의 인너-프롬프트(간격형, 순차형, 고정 길이형)가 요약 품질과 모델 안정성에 얼마나 기여하는가?

주요 결과

• PSP는 CNN/DailyMail 및 XSum 데이터셋에서 모델 파라미터의 단지 0.1%만 미세조정함으로써 최고 성능을 달성하며, 소수 예시 설정에서 전체 모델 미세조정보다 뛰어난 성능을 보였다.
• 표준 Prompt Tuning보다 큰 격차로 성능을 뛰어넘었으며, 이는 Prompt Tuning만으로는 개괄적 요약 과제에서 효과적이지 않음을 시사한다.
• PSP는 훈련 가능한 파라미터의 3%만 사용함으로써 Prefix-Tuning과 경쟁 가능한 성능을 달성했으며, 이는 뛰어난 파라미터 효율성을 보여준다.
• 아블레이션 연구 결과, 프롬프트 사전 훈련과 인너-프롬프트 모두 필수적임을 확인했다: 둘 중 하나를 제거하면 성능이 크게 하락하고, 특히 더 추상적인 XSum 데이터셋에서는 변동성이 커진다.
• 어텐션 시각화 결과, 모델이 소프트 프롬프트에 의해 효과적으로 관련 문서 내용에 집중하고, 자연스럽고 일관된 요약을 생성하는 것을 확인했다.
• 프롬프트 사전 훈련 단계는 제로샷 일반화 성능을 크게 향상시켰으며, 이는 소수 예시 미세조정 이전에 효과적인 소프트 프롬프트를 초기화하는 데 기여함을 시사한다.