[논문 리뷰] Learning an Effective Context-Response Matching Model with Self-Supervised Tasks for Retrieval-based Dialogues

Ruijian Xu, Chongyang Tao외 4명|arXiv (Cornell University)|2020. 09. 14.

Topic Modeling참고 문헌 28인용 수 10

한 줄 요약

이 논문은 사전 훈련된 언어 모델(PLM)을 네 가지 자기 지율 학습 작업—다음 세션 예측, 발화 복원, 부자연스러움 탐지, 일관성 식별—과 함께 공동으로 훈련하는 다중 작업 학습 프레임워크를 제안한다. 이 방법은 맥락 이해 능력과 응답 선택 성능을 크게 향상시키며, Ubuntu 및 전자상거래 데이터셋에서 각각 R@10@1 기준 2.9%와 4.8%의 절대적 성능 향상을 이룩하여 최신 기술 수준(SOTA)을 달성한다.

ABSTRACT

Building an intelligent dialogue system with the ability to select a proper response according to a multi-turn context is a great challenging task. Existing studies focus on building a context-response matching model with various neural architectures or PLMs and typically learning with a single response prediction task. These approaches overlook many potential training signals contained in dialogue data, which might be beneficial for context understanding and produce better features for response prediction. Besides, the response retrieved from existing dialogue systems supervised by the conventional way still faces some critical challenges, including incoherence and inconsistency. To address these issues, in this paper, we propose learning a context-response matching model with auxiliary self-supervised tasks designed for the dialogue data based on pre-trained language models. Specifically, we introduce four self-supervised tasks including next session prediction, utterance restoration, incoherence detection and consistency discrimination, and jointly train the PLM-based response selection model with these auxiliary tasks in a multi-task manner. By this means, the auxiliary tasks can guide the learning of the matching model to achieve a better local optimum and select a more proper response. Experiment results on two benchmarks indicate that the proposed auxiliary self-supervised tasks bring significant improvement for multi-turn response selection in retrieval-based dialogues, and our model achieves new state-of-the-art results on both datasets.

연구 동기 및 목표

• 기존 검색 기반 대화 시스템이 단일 작업 학습에 의존하고 대화 데이터 내 풍부한 훈련 신호를 간과하는 데서 비롯되는 한계를 해결하기 위해.
• 대화의 구조와 의미에 맞는 자기 지율 학습 작업을 활용하여 맥락 이해 능력과 응답 선택 성능를 향상시키기 위해.
• 핵심 PLM 기반 매칭 아키텍처를 수정하지 않고도 응답 선택을 위한 특징 학습을 향상시키기 위해.
• 특히 장문의 맥락과 자원이 제한된 상황에서 더 나은 일반화 능력과 강건성을 확보하기 위해.

제안 방법

• 다음 세션 예측, 발화 복원, 부자연스러움 탐지, 일관성 식별의 네 가지 대화 전용 자기 지율 학습 작업을 도입한다.
• 주 응답 선택 작업과 함께 이 보조 작업들을 다중 작업 학습 환경에서 PLM 기반 맥락-응답 매칭 모델과 공동으로 훈련한다.
• 대화 맥락과 응답 후보자에 대한 문맥적 표현을 추출하기 위해 공통의 BERT 기반 인코더를 사용한다.
• 각 자기 지율 목적을 위해 전용 헤드를 적용하면서도 주 인코더 파라미터를 공유한다.
• 주 응답 선택 작업과 네 가지 보조 작업의 병합된 손실을 훈련 중 최적화한다.
• 비-PLM 기반 응답 선택 모델에 대해서도 동일한 자기 지율 학습 스키마를 적용하여 추론 및 일반화 분석을 수행한다.

실험 결과

연구 질문

• RQ1 대화 데이터에 특화된 자기 지율 학습 작업이 검색 기반 대화에서 맥락-응답 매칭을 향상시키는가?
• RQ2 발화 복원 및 일관성 식별과 같은 보조 작업이 더 나은 응답 선택에 어떤 기여를 하는가?
• RQ3 자기 지율 목적을 가진 다중 작업 훈련이 다양한 맥락 길이와 대화 도메인 간에 더 나은 일반화를 이끌어내는가?
• RQ4 제안된 자기 지율 학습 스키마는 비-PLM 기반 응답 선택 모델에 효과적으로 적용될 수 있는가?

주요 결과

• 제안된 방법은 이전 최신 기술 수준 모델 대비 Ubuntu 대화 코퍼스에서 R@10@1 기준 2.9%의 절대적 성능 향상을 달성한다.
• 전자상거래 대화 코퍼스에서는 R@10@1 기준 4.8%의 절대적 성능 향상을 기록하여 다양한 도메인 간 일관된 성능 향상을 입증한다.
• 모델는 다양한 맥락 길이에 걸쳐 더 높은 안정성을 보이며, 기준 모델 대비 장문의 맥락에서 성능 저하가 더 천천가게 나타난다.
• 자기 지율 학습 작업의 통합은 더 나은 국소 최적화 및 응답 선택을 위한 개선된 특징 학습을 이끈다.
• 자기 지율 학습 스키마는 PLM 기반 모델 뿐 아니라 비-PLM 기반 아키텍처에도 효과적이며, 광범위한 적용 가능성을 시사한다.