[논문 리뷰] MinTL: Minimalist Transfer Learning for Task-Oriented Dialogue Systems

Zhaojiang Lin, Andrea Madotto외 2명|arXiv (Cornell University)|2020. 09. 25.

Topic Modeling참고 문헌 52인용 수 13

한 줄 요약

이 논문은 T5와 BART와 같은 사전 훈련된 시퀀스 톱시퀀스 모델을 사용하여 대화 상태 추적(DST)과 응답 생성을 공동으로 학습하는 최소화된 전이 학습 프레임워크인 MinTL을 제안한다. Levenshtein belief spans(Lev)를 도입함으로써 생성 길이와 추론 지연을 줄여, MultiWOZ에서 훈련 데이터의 20%만으로도 최신 기술 수준의 성능을 달성하고, 이전 방법보다 15배 빠른 추론 속도를 확보한다.

ABSTRACT

In this paper, we propose Minimalist Transfer Learning (MinTL) to simplify the system design process of task-oriented dialogue systems and alleviate the over-dependency on annotated data. MinTL is a simple yet effective transfer learning framework, which allows us to plug-and-play pre-trained seq2seq models, and jointly learn dialogue state tracking and dialogue response generation. Unlike previous approaches, which use a copy mechanism to "carryover" the old dialogue states to the new one, we introduce Levenshtein belief spans (Lev), that allows efficient dialogue state tracking with a minimal generation length. We instantiate our learning framework with two pre-trained backbones: T5 and BART, and evaluate them on MultiWOZ. Extensive experiments demonstrate that: 1) our systems establish new state-of-the-art results on end-to-end response generation, 2) MinTL-based systems are more robust than baseline methods in the low resource setting, and they achieve competitive results with only 20\% training data, and 3) Lev greatly improves the inference efficiency.

연구 동기 및 목표

• 작업별 모듈을 제거하여 작업 중심 대화 시스템의 설계를 단순화하기 위해.
• 효율적인 전이 학습을 통해 대규모 애너테이션 기반 대화 데이터에 대한 의존도를 줄이기 위해.
• 성능을 손상시키지 않은 채 대화 상태 추적에서의 추론 효율성을 향상시키기 위해.
• 사전 훈련된 시퀀스 톱시퀀스 모델을 사용하여 대화 상태 추적과 응답 생성을 종단 간 공동 학습할 수 있도록 하기 위해.
• 최소한의 훈련 데이터로도 강건한 성능을 유지를 보일 수 있도록 하기 위해.

제안 방법

• MinTL는 T5와 BART와 같은 사전 훈련된 시퀀스 톱시퀀스 모델을 통합하는 플러그 앤 플레이 아키텍처를 사용하여 대화 상태 추적과 응답 생성을 공동으로 수행한다.
• Levenshtein belief spans(Lev)를 도입하여 이전과 새로운 대화 상태 간의 차이만 모델링함으로써 생성 길이를 최소화한다.
• 프레임워크는 먼저 대화 상태를 업데이트하기 위해 Lev 토큰을 생성한 후, 업데이트된 상태를 바탕으로 지식을 검색하고 응답을 생성한다.
• 응답 디코더는 대화 컨텍스트와 검색된 지식에 모두 조건을 두어 자연스럽고 맥락에 부합하는 응답을 생성한다.
• Lev 덕분에 상태 업데이트에 필요한 토큰 생성을 최소화하여 추론 지연을 크게 줄일 수 있다.
• 이 방법은 다양한 사전 훈련된 백본과 호환되며, 복사 메커니즘이나 분류기와 같은 작업별 모듈이 필요하지 않다.

실험 결과

연구 질문

• RQ1 작업별 모듈 없이도 최소화된 전이 학습 프레임워크가 대화 상태 추적과 응답 생성을 공동 최적화할 수 있는가?
• RQ2 Levenshtein belief spans(Lev) 메커니즘이 대화 상태 추적에서 추론 효율성을 어떻게 향상시키는가?
• RQ3 MinTL는 훈련 데이터의 20%만으로도 얼마나 높은 성능을 유지할 수 있는가?
• RQ4 MinTL는 공동 목표 정확도와 추론 속도 측면에서 최신 기술 수준의 모델과 어떻게 비교되는가?
• RQ5 T5와 BART와 같은 사전 훈련된 시퀀스 톱시퀀스 모델은 최소한의 아키텍처 수정으로 종단 간 작업 중심 대화에 효과적으로 적응할 수 있는가?

주요 결과

• MinTL(BART-large)는 MultiWOZ 2.1에서 공동 목표 정확도 53.62%를 기록하여 생성 기반 대화 상태 추적 분야에서 새로운 최신 기술 수준을 수립한다.
• MultiWOZ 2.0에서 MinTL(T5-base)는 공동 목표 정확도 52.07%를 기록하여 이전 최신 기술 수준 모델들을 능가한다.
• 훈련 데이터의 20%만으로도 MinTL 기반 시스템이 경쟁 가능한 성능을 달성하여, 자원이 제한된 환경에서의 강건성을 입증한다.
• MinTL(T5-small)는 추론 지연을 1턴당 49.26ms로 줄여 Sequicity 대비 15.58배, TRADE 대비 2.12배 빠른 속도를 확보한다.
• Lev 메커니즘은 1턴당 평균 생성 토큰 수를 6.58로 줄여 이전 방법 대비 추론 효율성을 크게 향상시켰다.
• MinTL는 SST나 TRADE와 같은 비생성 모델보다 정확도와 속도에서 모두 뛰어나, 최소한의 생성을 통한 종단 간 학습의 효과성을 입증한다.