[논문 리뷰] Latent Topic Conversational Models

Tsung-Hsien Wen, Minh-Thang Luong|arXiv (Cornell University)|2018. 09. 19.

Topic Modeling참고 문헌 36인용 수 4

한 줄 요약

이 논문은 개방형 대화 시스템에서 응답의 다양성과 품질을 향상시키기 위해 순차적-순차적(sequenceto-sequence, seq2seq) 모델과 신경 주제 모델을 융합한 하이브리드 아키텍처인 잠재 주제 대화 모델(Latent Topic Conversational Model, LTCM)을 제안한다. 입력 발화로부터 전역 주제 분포를 학습하고, 이를 각 디코딩 단계에서 응답 생성을 조건화함으로써, 기준 seq2seq 및 잠재변수 모델 대비 더 다양한, 맥락에 부합하며 인간이 선호하는 응답을 생성한다.

ABSTRACT

Latent variable models have been a preferred choice in conversational modeling compared to sequence-to-sequence (seq2seq) models which tend to generate generic and repetitive responses. Despite so, training latent variable models remains to be difficult. In this paper, we propose Latent Topic Conversational Model (LTCM) which augments seq2seq with a neural latent topic component to better guide response generation and make training easier. The neural topic component encodes information from the source sentence to build a global "topic" distribution over words, which is then consulted by the seq2seq model at each generation step. We study in details how the latent representation is learnt in both the vanilla model and LTCM. Our extensive experiments contribute to better understanding and training of conditional latent models for languages. Our results show that by sampling from the learnt latent representations, LTCM can generate diverse and interesting responses. In a subjective human evaluation, the judges also confirm that LTCM is the overall preferred option.

연구 동기 및 목표

• 개방형 대화에서 일반적이고 반복적이며 일관성 없는 응답을 생성하는 표준 seq2seq 모델의 한계를 해결하기 위해.
• 구조화된 신경 주제 구성 요소를 통합하여 잠재변수 모델의 훈련 안정성과 응답 다양성을 향상시키기 위해.
• 대화 생성에서 전역적 의미 표현(주제)과 국소적 단어 수준의 동역학을 함께 학습하기 위해.
• 분리된, 해석 가능한 잠재 주제 공간에 조건을 주면 응답 품질과 다양성이 향상되는지 조사하기 위해.
• 자연어 생성에서 조건부 잠재변수 모델을 훈련하기 위한 실증적 통찰과 실용적 지침을 제공하기 위해.

제안 방법

• LTCM는 입력 발화를 단어에 대한 전역 주제 분포로 인코딩하는 표준 seq2seq 모델과 신경 주제 모델을 통합한다.
• 잠재 주제 분포는 각 디코딩 단계에서 맥락 게이트로 사용되며, 주제 게이트 메커니즘을 통해 출력 단어 확률에 영향을 준다.
• 잠재 주제 구성 요소를 훈련하기 위해 재구성 기법과 재파arameterization 기법을 사용하며, 기울기는 오직 주제 단어로만 역전파된다.
• 추론 시에는 주제 표현을 샘플링하여 다양한 응답을 생성함으로써 서로 다른 의미적 방향을 탐색할 수 있다.
• 모델는 변분 하한 목적 함수를 사용하여 훈련되며, KL 안내와 보조 백오프-워드 신호를 통해 훈련을 안정화시킨다.
• 주제 게이트 메커니즘은 응답 생성 중 seq2seq 디코더와 주제 구성 요소의 기여도를 동적으로 조정한다.

실험 결과

연구 질문

• RQ1 신경 주제 모델을 seq2seq 프레임워크에 효과적으로 통합하여 응답의 다양성과 일관성을 향상시킬 수 있는가?
• RQ2 잠재 주제 표현은 개방형 대화에서 생성된 응답의 품질과 다양성에 어떤 영향을 미치는가?
• RQ3 분리된 전역 주제 분포에 조건을 주면, 표준 잠재변수 모델 대비 더 나은 일반화 성능과 반복 감소 효과를 얻을 수 있는가?
• RQ4 변분 하한과 응답 다양성 사이의 트레이드오프는 모델 성능에 어떤 영향을 미치는가?
• RQ5 인간 평가자들이 학습된 주제 기반 잠재 공간에서 생성된 응답을 표준 seq2seq 또는 잠재변수 모델의 응답보다 신뢰성 있게 선호할 수 있는가?

주요 결과

• LTCM는 코퍼스 기반 평가에서 유일성 점수 42.6%와 낮은 지프 점수를 기록하여 기준 모델 대비 유의미하게 더 높은 응답 다양성을 확보하였다.
• 인간 평가 결과 LTCM는 가장 선호되는 모델로, 테스트된 모든 모델 중에서 흥미로움(3.97)과 적절성(4.04) 최고 점수를 기록하였다.
• 변분 하한은 상당히 열 劣하고 KL 발산은 높지만, LTCM는 기준 모델과 유사한 퍼즐리티를 유지하여 추가 손실가지가 논의 수준의 다양성을 인코딩하기 위해 사용됨을 시사한다.
• 모델의 잠재 주제 표현은 전역적 의미를 효과적으로 포착하며, 주제 게이트 메커니즘은 모델 구성 요소 간의 조율에 인간의 직관과 일치한다.
• p(θ|u) 조건부 주제 분포에서 샘플링하는 것보다 p(θ) 사전 분포에서 샘플링하는 것이 더 관련성 있고 다양한 응답을 생성한다.
• 정성적 분석을 통해 LTCM는 그레디 또는 표준 잠재변수 기반 기준 모델 대비 더 높은 의미적·구문적 다양성을 가진 응답을 생성하는 것으로 확인되었다.