[논문 리뷰] Generalized Conditioned Dialogue Generation Based on Pre-trained Language Model.

Yan Zeng, Jian‐Yun Nie|arXiv (Cornell University)|2020. 10. 21.

Topic Modeling참고 문헌 26인용 수 5

한 줄 요약

이 논문은 라벨이 붙은 대화 데이터와 비대화 텍스트 데이터를 모두 활용하여 응답 품질을 향상시키는, 미세튜닝된 BERT 기반 모델을 사용한 일반화된 조건부 대화 생성 프레임워크를 제안한다. BERT를 인코더와 디코더 역할 모두에 적응시켜 별도의 입력 표현과 조건 인식 주의 라우팅 메커니즘을 도입함으로써, 성격 및 주제 조건부 대화 생성에서 최신 기술 수준의 성능을 달성한다.

ABSTRACT

We investigate the general problem of conditioned dialogue, in which a condition label is used as input to designate the type of the target response such as a persona. A major challenge for conditioned dialogue generation is the lack of substantial dialogue data labeled with conditions. Thus, we propose to complement the labeled dialogue data with labeled non-dialogue text data, and fine-tune BERT based on them. Our fine-tuning approach utilizes BERT for both encoder and decoder via different input representations and self-attention masks in order to distinguish the source and target side. On the target (generation) side, we use a new attention routing mechanism to choose between generating a generic word or condition-related word at each position. Our model is instantiated to persona- and topic-related dialogue. Experimental results in both cases show that our approach can produce significantly better responses than the state-of-the-art baselines.

연구 동기 및 목표

• 조건부 생성 작업을 위한 라벨이 붙은 대화 데이터의 부족 문제를 해결하기 위해.
• 성격 및 주제 조건부 대화 시스템에서의 응답 품질 향상하기 위해.
• BERT와 같은 사전 훈련된 언어 모델을 활용하여 소스 컨텍스트를 공동으로 인코딩하고 조건별 응답을 생성하기 위해.
• 성격 또는 주제와 같은 다양한 조건 유형으로 일반화되는 통합 프레임워크를 도입하기 위해.

제안 방법

• 조건부 생성을 위한 표현 학습을 향상시키기 위해, 라벨이 붙은 대화 및 비대화 텍스트 데이터를 기반으로 BERT를 미세튜닝한다.
• BERT 아키텍처 내에서 소스(컨텍스트) 및 타겟(응답) 시퀀스를 구분하기 위해 별도의 입력 표현과 자기주의 주의 마스크를 사용한다.
• 자기회귀적 생성을 지원하기 위해 입력 토크나이제이션과 주의 패턴을 수정함으로써 BERT를 인코더이자 디코더로 적응시킨다.
• 각 디코딩 단계에서 일반적이고 조건별 단어 생성 간을 동적으로 선택하는 새로운 주의 라우팅 메커니즘을 도입한다.
• 조건별 토큰에 주의를 기울일 수 있는 능력을 유지하면서도, 표준 언어 모델링 목표를 사용해 모델을 엔드 투 엔드로 훈련한다.
• 성격 및 주제 조건부 대화 작업에 이 프레임워크를 적용하여 다양한 조건 유형 간의 일반화 능력을 입증한다.

실험 결과

연구 질문

• RQ1 라벨이 붙은 대화 데이터가 부족한 상황에서 사전 훈련된 언어 모델이 조건부 대화 생성에 효과적으로 적응할 수 있는가?
• RQ2 비대화 텍스트 데이터를 통합함으로써 조건부 대화 생성 성능이 어떻게 향상되는가?
• RQ3 통합된 BERT 기반 아키텍처가 조건부 응답 생성을 위한 인코더이자 디코더로 기능할 수 있는가?
• RQ4 조건 인식 주의 라우팅의 영향은 응답의 관련성과 다양성에 어떤가?
• RQ5 제안된 방법은 성격 및 주제와 같은 다양한 조건 유형으로 일반화되는가?

주요 결과

• 제안된 모델은 성격 및 주제 조건부 대화 생성 모두에서 기존 최신 기술 수준의 베이스라인을 뛰어넘는 성능을 보였다.
• 비대화 텍스트 데이터에 대한 미세튜닝은 특히 라벨이 붙은 대화 데이터가 부족한 상황에서 제로샷 및 피어샷 일반화 능력을 향상시켰다.
• 조건 인식 주의 라우팅 메커니즘은 주어진 조건에 부합하는 응답을 생성할 수 있는 능력을 모델의 성능을 향상시켰다.
• 통합된 BERT 기반 아키텍처는 전용 모델과 경쟁 가능한 성능을 달성하여 다양한 조건 유형에 대한 강력한 일반화 능력을 입증했다.
• 정량적 결과는 BLEU, ROUGE, FID 등의 자동 평가 지표에서 일관된 향상을 보였으며, 인간 평가를 통해 더 높은 응답 품질과 통일성 확인했다.