[논문 리뷰] Consistent Dialogue Generation with Self-supervised Feature Learning

Yizhe Zhang, Xiang Gao외 5명|arXiv (Cornell University)|2019. 03. 13.

Topic Modeling참고 문헌 42인용 수 30

한 줄 요약

이 논문은 레이블이 없는 대화 데이터로부터 분리된 이진 주제 및 성격 특징을 학습하는 자기지도 학습 대화 생성 모델을 제안한다. 이는 응답 일관성을 향상시키기 위한 것이다. 분리 손실과 제어 가능한 생성을 갖춘 판별적 특징 추출기를 사용함으로써, 이 모델은 두 가지 벤치마크에서 주제 및 성격 측면에서 최신 기술 수준의 일관성을 달성하며, 명시적 성격 감시를 사용하는 모델들을 능가한다.

ABSTRACT

Generating responses that are consistent with the dialogue context is one of the central challenges in building engaging conversational agents. We demonstrate that neural conversation models can be geared towards generating consistent responses by maintaining certain features related to topics and personas throughout the conversation. Past work has required external supervision that exploits features such as user identities that are often unavailable. In our approach, topic and persona feature extractors are trained using a contrastive training scheme that utilizes the natural structure of dialogue data. We further adopt a feature disentangling loss which, paired with controllable response generation techniques, allows us to promote or demote certain learned topics and persona features. Evaluation results demonstrate the model's ability to capture meaningful topics and persona features. The incorporation of the learned features brings significant improvement in terms of the quality of generated responses on two dialogue datasets.

연구 동기 및 목표

• 레이블이 있거나 민감한 사용자 신원 데이터에 의존하지 않고도 개방형 대화 시스템에서 주제 및 성격 일관성을 유지하는 데 도전하는 것.
• 대화의 구조에서 직접 의미 있는 분리된 주제 및 성격 특징을 추출하는 자기지도 학습 방법을 개발하는 것.
• 학습된 이진 특징을 조작하여 제어 가능한 응답 생성을 가능하게 하여 해석 가능성과 제어력을 향상시키는 것.
• 비감독적 특징 학습이 명시적 성격 주석을 사용하는 모델의 성능을 따라하거나 능가할 수 있음을 입증하는 것.

제안 방법

• 자기지도 학습 특징 추출기가 대화 이력에서 주제 및 성격 표현을 식별하도록 훈련되며, 이는 대화의 자연스러운 구조 외에는 발화자 신원이나 외부 레이블이 필요하지 않다.
• 이진 특징 표현은 이해 가능성 향상을 위해 사용되며, 생성 과정에서 특정 주제나 성격의 케이스 온/오프 제어를 가능하게 한다.
• 다른 주제 및 성격에 대해 서로 다른 특징을 학습하도록 유도하기 위해 분리 손실이 도입된다.
• 응답 생성기가 추출된 특징을 제어 신호로 사용하여 고수준의 맥락 특징과 일치하는 일관된 응답 생성을 가능하게 한다.
• 제어 가능한 생성 기법을 적용하여 디코딩 과정에서 특정 특징을 강화하거나 억제함으로써 일관성을 향상시킨다.
• 신경 문장 인코더가 기존의 전통적인 백오브워즈 특징을 대체하여 풍부하고 맥락에 기반한 표현을 캡처한다.

실험 결과

연구 질문

• RQ1 명시적 감시나 레이블이 있는 성격 데이터 없이도 대화 생성에서 주제 및 성격 일관성을 향상시킬 수 있는가?
• RQ2 대화 구조에서 자기지도 학습을 통해 분리되고 해석 가능한 주제 및 성격 특징을 효과적으로 추출할 수 있는가?
• RQ3 이진 특징 표현과 분리 손실을 사용하면 응답 생성의 제어력과 일관성이 향상되는가?
• RQ4 명시적 성격 정보 없이 훈련된 모델이 명시적 성격 임베딩을 사용하는 모델보다 성능이 뛰어나게 될 수 있는가?

주요 결과

• CoCon-TP 모델은 트위터 및 말루바 데이터셋에서 모두 최고의 관련성 점수를 기록했으며, BLEU 점수는 각각 3.31과 5.8을 기록했다.
• CoCon-TP-bin 버전은 모든 베이스라인 모델보다 다양성 지표에서 뛰어난 성능을 보였으며, 트위터 데이터셋에서 Dist-1은 10.59, Dist-2는 0.100을 기록했다.
• 인간 평가에서 CoCon-TP는 주제 일관성(45.20% 선호도)과 성격 일관성(40.95% 선호도)에서 베이스라인보다 뛰어난 성능을 보였으며, seq2seq 및 성격 모델보다 뚜렷한 성과 향상을 보였다.
• 인간 평가자들은 인간 레퍼런스를 제외한 모든 베이스라인보다 CoCon-TP를 선호했으며, 인간 출력과 비교했을 때 주제 일관성에서 51.65% 선호도, 성격 일관성에서 45.30% 선호도를 기록했다.
• 명시적 성격 정보를 사용하는 모델들과 비교해도 일관성 향상이 뚜렷하게 이루어졌으며, 자기지도 특징 학습의 효과성을 입증했다.
• 제거 분석 결과, 분리 손실과 이진 특징 표현이 특징의 해석 가능성과 제어력 향상에 뚜렷한 기여를 했다.