[논문 리뷰] Exploring Prompt-based Few-shot Learning for Grounded Dialog Generation

Chujie Zheng, Minlie Huang|arXiv (Cornell University)|2021. 09. 14.

Topic Modeling참고 문헌 32인용 수 27

한 줄 요약

논문은 GDG(grounded dialog generation)를 위한 프롬프트 기반의 소수-shot 프레임워크를 제안하고, 프롬프트를 활용한 언어 모델이 세 가지 GDG 작업에서 대화 모델보다 우수하다는 것을 보여주며, 이산 프롬프트가 강건성과 강한 근거 제시 성능을 제공한다.

ABSTRACT

Dialog models can be greatly strengthened through grounding on various external information, but grounded dialog corpora are usually not naturally accessible. In this work, we focus on the few-shot learning for grounded dialog generation (GDG). We first propose a simple prompting method for GDG tasks, where different constructs of model input, such as the grounding source and the conversation context, are distinguished through continuous or discrete prompts. On three typical GDG tasks, we empirically demonstrate and analyze in-depth the effectiveness of our method. We then conduct extensive experiments to thoroughly investigate how our prompting method works with different pre-trained models. We show that prompted language models perform superiorly to conversational models, and further analyze various factors that influence the effects of prompting. Overall, our work introduces a prompt-based perspective to the few-shot learning for GDG tasks, and provides valuable findings and insights for future research.

연구 동기 및 목표

• grounded dialog generation의 데이터 부족 문제를 소수-shot 학습으로 해결한다.
• GDG 과제에서 근거 소스(grounding source)와 대화 맥락을 구분하기 위한 간단한 프롬프트 방식을 제안한다.
• 여러 GDG 데이터셋에 걸쳐 프롬프트가 다양한 사전 학습 모델과 어떻게 상호작용하는지 평가한다.

제안 방법

• 입력에서 grounding source와 대화 맥락을 구분하기 위해 연속적(ind indicatory tokens) 프롬프트와 이산적(작업 지시가 포함된 텍스트 설명) 프롬프트를 도입한다.
• 세 가지 GDG 작업(Wizard-of-Wikipedia, PersonaChat, ESConv)에서 프롬프트 효과를 테스트하기 위해 GPT2-medium을 백본으로 사용한다.
• 대상 응답에 대해 교차 엔트로피로 모든 모델 파라미터를 학습하고, 추론 시 모델 작업에 따라 빔 탐색과 의사 중심 샘플링을 사용한다.
• 프롬프트를 No Prompts와 비교하고 프롬프트 초기화 및 섭동에 대한 민감도를 분석한다.
• 다양한 백본(GPT2, T5, BART)을 사용해 프롬프트의 교차 모델 적용 가능성을 연구한다.
• 평가를 perplexity, BLEU-2, unigram F1, 근거 지표(Wiki/PSN F1 또는 매치 비율)로 보고한다.

실험 결과

연구 질문

• RQ1 프롬프트 기반 소수-shot 학습이 근거 소스가 존재할 때 GDG 성능을 향상시키는가?
• RQ2 GDG에서 Continuous 프롬프트와 Discrete 프롬프트가 소수-shot 및 전체 데이터 설정에서 어떻게 비교되는가?
• RQ3 프롬프트 방법이 서로 다른 사전 학습 모델 아키텍처(자가회귀 vs 인코더-디코더) 및 크기와 어떻게 상호 작용하는가?
• RQ4 프롬프트를 적용한 언어 모델이 GDG 작업에서 대화 모델보다 근거 제시 능력이 더 우수한가?

주요 결과

• 프롬프트로 입력 구성 요소를 구분하면 GDG 소수-shot 성능이 향상되지만, 프롬프트가 잘 초기화되지 않으면 학습에 악영향을 줄 수 있다.
• 이산적 프롬프트가 대역폭이 작은 소수-shot 및 전체 데이터 설정에서 일반적으로 연속적 프롬프트보다 더 나은 성능을 보이며, 작은 프롬프트 변화에 대한 견고함을 나타낸다.
• 세 가지 GDG 작업에서 여러 설정에서 프롬프트를 적용한 언어 모델이 대화 모델보다 우수한 성능을 보인다.
• 프롬프트의 효과는 백본 모델의 크기 및 사전 학습 목표에 따라 다르며, 일부 작업에서 GPT2 및 T5-Large와 같은 언어 모델이 BART보다 프롬프트의 이점을 더 많이 얻는 경향이 있다.
• 프롬프트를 적용한 언어 모델(GPT2, T5)은 근거 정보를 덜 활용하는 비프롬프트 모델보다 더 잘 활용하는 반면, 대화 모델은 프롬프트의 이점을 얻지 못하는 경우가 많다.