[논문 리뷰] Context-Tuning: Learning Contextualized Prompts for Natural Language Generation

Tianyi Tang, Junyi Li외 2명|arXiv (Cornell University)|2022. 01. 21.

Topic Modeling인용 수 12

한 줄 요약

이 논문은 BERT의 마스킹 토큰 예측을 사용하여 입력에 특화된 컨텍스트화된 프롬프트를 생성하는 연속적 프롬프팅 방법인 Context-Tuning을 제안한다. 이는 텍스트 생성에서 지식 유도와 관련성 향상에 기여한다. 연속적 역프롬프팅과 단순한 파라미터 미세조정 전략(모델 파라미터의 0.12%만 조정)을 결합함으로써, 전체 미세조정 성능의 98.0%를 달성하면서도 개방형 생성 작업(예: 스토리 및 리뷰 생성)에서 정보성과 관련성 측면에서 뚜렷한 향상을 이룬다.

ABSTRACT

Recently, pretrained language models (PLMs) have had exceptional success in language generation. To leverage the rich knowledge encoded by PLMs, a simple yet powerful paradigm is to use prompts in the form of either discrete tokens or continuous embeddings. In existing studies, these prompting methods are typically independent of the inputs, lacking sufficient consideration of input semantics. To address this issue, we propose a novel continuous prompting approach, called context-tuning, to fine-tuning PLMs for natural language generation. Firstly, the prompts are derived based on the input text to elicit useful knowledge from PLMs for generation. We refer to such prompts as contextualized prompts. Secondly, we use continuous inverse prompting to improve the process of natural language generation by modeling an inverse generation process from output to input, making the generated text more relevant to the inputs. Furthermore, we utilize a lightweight context-tuning method that fine-tunes only 0.12% of the parameters while maintaining good performance. Our code is publicly available at https://github.com/RUCAIBox/Context-Tuning.

연구 동기 및 목표

• 정적 프롬프트의 한계를 해결하기 위해, 입력 간에 변화하지 않고 입력에 특화된 의미를 활용하지 못하는 문제를 해결하고자 한다.
• 입력 콘텐츠에 따라 동적으로 조건화된 프롬프트를 유도하여 생성된 텍스트의 정보성과 관련성 향상을 도모하고자 한다.
• 출력에서 입력으로의 역생성 과정을 모델링함으로써 연속적 역프롬프팅을 통해 생성 품질을 향상시키고자 한다.
• 모델 파라미터의 0.12%만 조정하는 경량 미세조정 전략을 제안하여 효율적인 미세조정을 가능하게 하고자 한다.
• 사전학습된 언어 모델로부터 입력과 관련된 지식을 효과적으로 유도하기 위해 컨텍스트화된 프롬프트의 유효성을 입증하고자 한다.

제안 방법

• 입력 텍스트와 [MASK] 토큰을 BERT에 입력하여, [MASK] 토큰의 최종 히든 상태를 연속적 프롬프트 벡터로 사용함으로써 컨텍스트화된 프롬프트를 생성한다.
• 프롬프트는 입력 의미에 따라 조건화되어 있어, 사전학습된 언어 모델로부터 관련 지식을 효과적으로 유도할 수 있도록 하여 생성 품질을 향상시킨다.
• 입력 텍스트를 생성된 텍스트와 연속적 프롬프트로부터 재구성할 확률을 최대화함으로써 연속적 역프롬프팅을 적용함으로써 입력-출력의 관련성 향상을 도모한다.
• 경량적인 컨텍스트 미세조정 전략을 사용하여, 모든 모델 파라미터의 바이어스 항목만을 미세조정함으로써 학습 비용을 절감한다.
• 컨텍스트화된 프롬프트와 역프롬프팅을 통합된 프레임워크로 통합하여 최소한의 파라미터 업데이트로 종단 간 텍스트 생성을 수행한다.
• 자동 평가 및 인간 평가 지표를 사용하여 스토리 및 리뷰 생성을 포함한 네 가지 생성 작업에서 방법의 성능을 평가한다.

실험 결과

연구 질문

• RQ1 입력 조건에 따른 연속적 프롬프트는 개방형 생성 작업에서 생성된 텍스트의 정보성 향상에 기여하는가?
• RQ2 연속적 역프롬프팅은 생성된 텍스트와 입력 컨텍스트 간의 관련성 향상에 얼마나 효과적인가?
• RQ3 경량적인 미세조정 전략은 파라미터 업데이트를 최소화하면서도 성능을 얼마나 유지할 수 있는가?
• RQ4 정적 프롬프트에 비해 컨텍스트화된 프롬프트는 입력과 관련된 지식을 더 잘 포착하는가?
• RQ5 자동 평가 및 인간 평가 모두에서 제안된 방법은 강력한 베이스라인에 비해 어떻게 비교되는가?

주요 결과

• Context-Tuning은 파라미터의 0.12%만 조정함으로써 전체 미세조정 모델 성능의 98.0%를 달성하여 높은 효율성을 입증하였다.
• 인간 평가 결과, Context-Tuning은 정보성, 관련성, 논리성, 유창성 등 모든 품질 차원에서 GPT-2, BART, T5를 모두 압도하였다.
• 품질 분석 및 컨텍스트화된 프롬프트에서 추출한 关련 키워드 분석을 통해, Context-Tuning이 입력에 더 높은 관련성을 가진 스토리를 생성함을 확인하였다.
• 복귀 분석 결과, 생성된 스토리의 85% 키워드가 컨텍스트화된 프롬프트와 가장 가까운 10개 단어 내에 포함되어 있어 지식 일치를 확인하였다.
• 튜링 테스트 결과, 인간 평가자가 인간이 작성한 글과 Context-Tuning으로 생성된 글을 신뢰성 있게 구분하지 못해 높은 유창성과 자연스러움을 입증하였다.
• 자동 평가에서 Context-Tuning은 WritingPrompts, CMV, DailyDialog 데이터셋에서 최고 성능을 기록하였으며, ROUGE 및 BLEU 점수에서 뚜렷한 향상을 보였다.