[논문 리뷰] A Dual Prompt Learning Framework for Few-Shot Dialogue State Tracking

Yuting Yang, Wenqiang Lei외 4명|arXiv (Cornell University)|2022. 01. 15.

Speech and dialogue systems인용 수 7

한 줄 요약

이 논문은 사전에 정의된 슬롯 온톨로지에 의존하지 않고, 슬롯과 값 생성을 이중 작업으로 간주하여 사전 학습된 언어 모델을 활용하는 이중 프롬프트 학습 프레임워크를 제안한다. 이는 저자원 DST 벤치마크에서 최신 기술 성능을 달성하며, 사전에 정의되지 않은 슬롯도 생성할 수 있다.

ABSTRACT

Dialogue state tracking (DST) module is an important component for task-oriented dialog systems to understand users' goals and needs. Collecting dialogue state labels including slots and values can be costly, especially with the wide application of dialogue systems in more and more new-rising domains. In this paper, we focus on how to utilize the language understanding and generation ability of pre-trained language models for DST. We design a dual prompt learning framework for few-shot DST. Specifically, we consider the learning of slot generation and value generation as dual tasks, and two prompts are designed based on such a dual structure to incorporate task-related knowledge of these two tasks respectively. In this way, the DST task can be formulated as a language modeling task efficiently under few-shot settings. Experimental results on two task-oriented dialogue datasets show that the proposed method not only outperforms existing state-of-the-art few-shot methods, but also can generate unseen slots. It indicates that DST-related knowledge can be probed from PLM and utilized to address low-resource DST efficiently with the help of prompt learning.

연구 동기 및 목표

• 대화 상태 레이블에 대한 높은 주석 비용으로 인해 발생하는 저자원 대화 상태 추적 문제를 해결한다.
• 기존의 소수의 데이터로 추적하는 DST 방법들이 도메인 유사성이나 사전에 정의된 슬롯 온톨로지에 의존하는 한계를 극복한다.
• 사전에 알려지지 않은 슬롯 유형이나 광범위한 훈련 데이터 없이도 새로운 슬롯과 값을 생성할 수 있도록 한다.
• 사전 학습된 언어 모델에서 작업별 지식을 탐색하고 활용할 수 있는 프롬프트 학습의 잠재력을 탐색한다.
• 이중 프롬프트 설계를 통해 DST를 통합된 언어 모델링 작업으로 재정의하여 소수의 데이터에서도 일반화 성능을 향상시킨다.

제안 방법

• 값 생성을 위한 값 프롬프트와 대화 기록을 조건으로 삼아 슬롯을 생성하는 프롬프트, 슬롯을 조건으로 삼아 값을 생성하는 슬롯 프롬프트를 각각 설계한다.
• 슬롯 생성을 유도하기 위해 "[value] belief states: [dialogue history]" 와 같은 템플릿을 사용하여 값 프롬프트 함수를 구성한다.
• 값 생성을 유도하기 위해 "[slot] belief states: [dialogue history]" 와 같은 템플릿을 사용하여 슬롯 프롬프트 함수를 구성한다.
• 가중치가 부여된 손실을 포함하는 다중 작업 학습 목표를 사용하여 모델을 엔드 투 엔드로 훈련한다.
• 백본으로 사전 학습된 언어 모델(예: RoBERTa)을 사용하고, 이중 프롬프트 신호를 통해 미세조정한다.
• 추론 과정에서 먼저 값 후보를 생성한 후, 이를 바탕으로 값 프롬프트를 구성하고 해당 슬롯을 예측한다.

실험 결과

연구 질문

• RQ1 프롬프트 학습이 사전 학습된 언어 모델의 지식을 소수의 데이터로 추적하는 대화 상태 추적에 효과적으로 전이할 수 있는가?
• RQ2 슬롯과 값 생성을 별개이지만 상호의존적인 작업으로 간주하는 이중 프롬프트 프레임워크가 소수의 데이터로 추적 성능을 향상시킬 수 있는가?
• RQ3 모델이 훈련 데이터나 사전에 정의된 슬롯 온톨로지에 포함되지 않은 슬롯과 값을 얼마나 잘 생성할 수 있는가?
• RQ4 슬롯과 값 프롬프트 감시 간의 균형이 모델 성능에 어떤 영향을 미치는가?
• RQ5 저자원 환경에서 이중 프롬프트 설계가 단일 프롬프트 또는 순서-시퀀스 생성 기반 베이스라인보다 우수한가?

주요 결과

• 제안된 이중 프롬프트 학습 프레임워크는 소수의 데이터 설정에서 두 가지 벤치마크 작업 중심 대화 데이터셋에서 최신 기술 성능을 달성한다.
• 모델은 특히 1%의 훈련 데이터와 같은 저데이터 환경에서 기존의 소수의 데이터로 추적하는 DST 방법들을 일관되게 능가한다.
• 이 프레임워크는 원본 도메인이나 사전에 정의된 온톨로지에 포함되지 않은 새로운 슬롯에 대해 대화 상태를 성공적으로 생성한다.
• 제거 분석 결과, 슬롯 프롬프트는 유용한 보조 신호로 작용하며, 손실 가중치를 0.1로 설정했을 때 최적의 성능을 보인다.
• 실험 결과, 이중 프롬프트 설계가 저자원 DST 환경에서 단일 프롬프트 또는 표준 미세조정 접근 방식보다 더 나은 일반화 성능을 제공하는 것으로 확인되었다.