[논문 리뷰] Personalization in Goal-Oriented Dialog

Chaitanya K. Joshi, Fei Mi외 1명|arXiv (Cornell University)|2017. 06. 22.

Topic Modeling참고 문헌 12인용 수 63

한 줄 요약

이 논문은 화자 프로필의 영향을 받는 목표 주도 대화 데이터셋을 제시하고, 엔드투엔드 대화 시스템을 개인화하기 위한 아키텍처 및 다중 작업 학습 접근법을 제안합니다. Memory Networks 기반 대화 모델을 분석하고 공유 특성 다중 작업 모델이 프로필별 모델보다 더 잘 수행할 수 있음을 보여줍니다.

ABSTRACT

The main goal of modeling human conversation is to create agents which can interact with people in both open-ended and goal-oriented scenarios. End-to-end trained neural dialog systems are an important line of research for such generalized dialog models as they do not resort to any situation-specific handcrafting of rules. However, incorporating personalization into such systems is a largely unexplored topic as there are no existing corpora to facilitate such work. In this paper, we present a new dataset of goal-oriented dialogs which are influenced by speaker profiles attached to them. We analyze the shortcomings of an existing end-to-end dialog system based on Memory Networks and propose modifications to the architecture which enable personalization. We also investigate personalization in dialog as a multi-task learning problem, and show that a single model which shares features among various profiles outperforms separate models for each profile.

연구 동기 및 목표

• 엔드-투-엔드 목표 지향 대화 시스템에서 개인화의 필요성을 제시한다.
• 첨부된 화자 프로필이 있는 목표 지향 대화 데이터 자원을 도입한다.
• 기존 Memory Networks 기반 대화 모델을 평가하고 개인화 지향 수정안을 제안한다.
• 프로필 간 특징 공유를 위한 다중 작업 학습의 방법을 조사하고 성능 향상을 도모한다.

제안 방법

• Memory Networks 기반 엔드투엔드 대화 시스템을 분석하고 개인화의 한계를 식별한다.
• 대화 모델에서 개인화를 가능하게 하는 아키텍처 수정안을 제안한다.
• 개인화를 다중 작업 학습 문제로 설정하고 공유 모델 하나와 프로필별 모델을 비교한다.
• 프로필 간 공유 피처 학습의 이점과 고립된 모델의 비교 평가한다.
• 재현성과 향후 연구를 돕기 위한 코드와 데이터를 제공한다.

실험 결과

연구 질문

• RQ1 Memory Networks 기반 대화 모델을 확장하여 화자 프로필 개인화를 반영할 수 있는가?
• RQ2 아키텍처 수정을 통해 목표 지향 대화 시스템에서 효과적인 개인화를 달성할 수 있는가?
• RQ3 프로필 간 공유 피처를 갖춘 단일 다중 작업 모델이 각 프로필마다 분리된 모델보다 우수한가?

주요 결과

• Memory Networks의 아키텍처를 수정함으로써 목표 지향 대화에서 개인화가 달성될 수 있다.
• 프로필 간 공유 피처를 갖춘 다중 작업 학습 접근법이 프로필별 분리 모델보다 더 뛰어날 수 있다.
• 프로필 간 표현 공유가 각 프로필마다 별도 모델을 만들지 않고도 개인화를 개선할 수 있다.