[논문 리뷰] Learning Personalized End-to-End Goal-Oriented Dialog

Liangchen Luo, Wenhao Huang외 3명|arXiv (Cornell University)|2018. 11. 12.

Topic Modeling참고 문헌 18인용 수 4

한 줄 요약

이 논문은 목표 지향 대화 시스템의 성능을 향상시키기 위해 사용자 프로필 임bedding과 선호도 모델링을 통합한 엔드 투 엔드 메모리 네트워크 모델인 Personalized MemN2N을 제안한다. 프로필 인식 응답 선택과 선호도 기반 후보 순위 매기기를 통해 모델은 응답 정확도를 7% 향상시키고, 인간 평가에서 임무 완료율과 사용자 만족도 측면에서 베이스라인을 뛰어넘는 성능을 기록한다.

ABSTRACT

Most existing works on dialog systems only consider conversation content while neglecting the personality of the user the bot is interacting with, which begets several unsolved issues. In this paper, we present a personalized end-to-end model in an attempt to leverage personalization in goal-oriented dialogs. We first introduce a Profile Model which encodes user profiles into distributed embeddings and refers to conversation history from other similar users. Then a Preference Model captures user preferences over knowledge base entities to handle the ambiguity in user requests. The two models are combined into the Personalized MemN2N. Experiments show that the proposed model achieves qualitative performance improvements over state-of-the-art methods. As for human evaluation, it also outperforms other approaches in terms of task completion rate and user satisfaction.

연구 동기 및 목표

• 콘텐츠 기반 대화 모델이 사용자 성격과 선호도에 적응하지 못하는 한계를 해결하기 위해.
• 중간 단계의 감독 신호나 사전 훈련 없이도 목표 지향 대화에서 엔드 투 엔드 개인화를 가능하게 하기 위해.
• 사용자 요청의 관련성, 언어 스타일 적응, 모호성 해소를 향상시키기 위해.
• 프로필 인식 선호도 벡터를 사용하여 지식 기반 엔티티에 대한 사용자 선호도를 모델링하기 위해.
• 자동 평가 지표와 인간 평가를 통해 모델의 효과성을 평가하기 위해.

제안 방법

• 프로필 모델은 사용자 프로필을 분산 임베딩으로 인코딩하고, 글로벌 메모리를 통해 유사 사용자의 대화 기록을 검색한다.
• 선호도 모델은 프로필에 의존하는 어텐션 가중치를 사용하여 지식 기반 속성(예: 연락처 유형)에 대한 사용자 선호도를 학습한다.
• 이 두 모델은 메모리 네트워크 아키텍처 내에서 통합된 유일한 Personalized MemN2N 프레임워크로 통합된다.
• 응답 선택은 프로필 임베딩이 학습된 경향 가중치를 통해 후보 순위 매기기 영향을 미치는 가중치 기반 스코링 메커니즘을 사용한다.
• 모델은 L2 정규화된 선호도 벡터를 사용하여 지식 기반 컬럼(예: 전화번호 대비 소셜 미디어) 간 사용자 선호도를 표현한다.
• 모델은 프로필 및 선호도 구성 요소의 공동 최적화를 통해 개인화된 bAbI 대화 데이터셋에서 엔드 투 엔드로 훈련된다.

실험 결과

연구 질문

• RQ1 사용자 프로필의 엔드 투 엔드 학습이 목표 지향 대화에서 응답 관련성 향상에 기여하는가?
• RQ2 모호한 지식 기반 엔티티에 대한 사용자 선호도 통합이 대화 성능에 어떤 영향을 미치는가?
• RQ3 유사 사용자의 대화 기록을 포함한 글로벌 메모리가 개인화에 얼마나 기여하는가?
• RQ4 프로필 인식 응답 선택이 인간 평가에서 임무 완료율과 사용자 만족도 향상에 기여하는가?
• RQ5 프로필 임베딩과 선호도 벡터는 모호한 사용자 요청을 어떻게 해결하는가?

주요 결과

• Personalized MemN2N는 전체 대화 작업(작업 5)에서 최고의 베이스라인 대비 7%p의 절대적인 응답 정확도 향상을 달성했다.
• 인간 평가 결과, 표준 MemN2N 베이스라인 대비 임무 완료율이 27.6% 높고, 만족도 점수가 14.3% 높았다(p < 0.03).
• 생성된 가중치의 혼동 행렬에서 대각선 값이 높아, 프로필 임베딩이 사용자 프로필과 일치하는 후보에 대해 경향 가중치를 크게 증가시킨다는 것이 확인되었다.
• 제어 실험에서 유사 사용자의 대화 기록을 사용할 경우 글로벌 메모리 구성 요소가 성능을 4.5%p 향상시켰다(91.70% 대비 87.17% 정확도).
• 학습된 선호도 벡터에 따르면, 젊은 사용자는 소셜 미디어 연락처를 선호하고, 연령이 많은 사용자는 전화번호를 선호한다는 사실이 입증되었다.
• 프로필 및 선호도 모델링의 통합은 언어 스타일과 추천 정책의 동적 적응을 가능하게 하여 사용자 요청의 모호성을 줄였다.