[논문 리뷰] Towards Deep Conversational Recommendations

Raymond Li, Samira Ebrahimi Kahou외 4명|PolyPublie (École Polytechnique de Montréal)|2018. 12. 18.

Topic Modeling인용 수 124

한 줄 요약

본 논문은 10k개의 영화 추천 대화를 포함하는 대규모 실제 데이터셋인 ReDial을 소개하고, 계층적 인코더, 감정 정보를 활용한 감정 분석, 그리고 스위칭 디코더를 갖춘 오토인코더 기반 추천기를 결합한 대화형 추천을 위한 모듈식 신경망 아키텍처를 제안합니다.

ABSTRACT

There has been growing interest in using neural networks and deep learning techniques to create dialogue systems. Conversational recommendation is an interesting setting for the scientific exploration of dialogue with natural language as the associated discourse involves goal-driven dialogue that often transforms naturally into more free-form chat. This paper provides two contributions. First, until now there has been no publicly available large-scale dataset consisting of real-world dialogues centered around recommendations. To address this issue and to facilitate our exploration here, we have collected ReDial, a dataset consisting of over 10,000 conversations centered around the theme of providing movie recommendations. We make this data available to the community for further research. Second, we use this dataset to explore multiple facets of conversational recommendations. In particular we explore new neural architectures, mechanisms, and methods suitable for composing conversational recommendation systems. Our dataset allows us to systematically probe model sub-components addressing different parts of the overall problem domain ranging from: sentiment analysis and cold-start recommendation generation to detailed aspects of how natural language is used in this setting in the real world. We combine such sub-components into a full-blown dialogue system and examine its behavior.

연구 동기 및 목표

• 영화 추천에 초점을 둔 실제 세계의 양당 대화 코퍼스를 제공하여 대화형 추천 연구를 가능하게 한다.
• 하위 작업(추천 생성, 언급된 영화에 대한 사용자 의견의 감정 분석, 그리고 대화 시스템으로의 통합)을 위한 모듈식 신경 구성요소를 개발하고 평가한다.
• 스위칭 디코더와 동적 감정 정보가 반영된 추천기를 통해 명시적 영화 추천을 대화에 통합할 수 있는 신경 아키텍처를 제안한다.
• 종단 간 학습의 데이터 부족 문제를 해결하기 위해 더 큰 데이터 소스에서 하위 구성요소를 사전 학습하는 이점을 입증한다.]
• method
• [

제안 방법

• AMT를 사용한 탐색자/추천자 설정으로 10,006개의 대화와 182,150개의 발화를 가진 ReDial 데이터셋을 수집하고, 영화 언급 및 언어 품질 사용을 강제한다.
• 계층적 인코더(HRED 유사)로 고정 입력으로 GenSen 문장 표현을 사용하여 대화 맥락 표현을 얻는다.
• 언급된 각 영화에 대해 동적으로 인스턴스화되는 감정 분석 RNN을 도입하여 denoising autoencoder 추천기를 안내한다.
• (MovieLens에서 사전 학습된) 오토인코더 기반 추천기를 훈련시켜 콜드 스타트 추천에 활용하고, 단어 토큰과 영화 이름 토큰 사이를 선택하는 스위칭 메커니즘을 통해 디코더에 통합한다.
• 매 단계에서 추천기의 평점 벡터와 맥락을 사용하여 다음 발화를 생성하는 bespoke 스위칭 디코더를 사용하고, 어휘와 영화 언급 사이를 전환한다.
• 표준 지표(감정 예측 정확도, 추천의 RMSE)로 구성 요소를 개별 평가하고, HRED 베이스라인에 비해 발화 수준에서 인간이 정보를 제공하는 비교를 수행한다.]
• research_questions
• [

실험 결과

연구 질문

• RQ1 자연어에서의 대화형 추천에 대한 실제적이고 대규모 데이터 세트의 가치는 무엇인가?
• RQ2 대화형 추천의 하위 작업(콜드 스타트 추천, 감정 인식 기반 추론, 통합 대화 생성)을 가장 잘 지원하는 아키텍처와 학습 전략은 무엇인가?
• RQ3 사전 학습된 하위 구성요소를 갖춘 모듈식 신경 시스템이 일반적인 엔드-투-엔드 대화 모델보다 추천 중심 대화에서 더 나은 성능을 보일 수 있는가?
• RQ4 언급된 영화에 연결된 동적 감정 분석을 도입하면 추천 품질과 대화 일관성이 향상되는가?]
• RQ5 key_findings
• RQ6 [

주요 결과

• ReDial은 10,006개의 대화와 182,150개의 발화를 포함하는 공개 데이터세트를 제공하여 추천 중심 대화의 구조적 분석을 가능하게 한다.
• 감정 정보를 가지는 동적으로 인스턴스화된 RNN과 계층적 인코더를 공동으로 학습시키면 영화에 대한 사용자 의견 예측이 향상되고 추천기 구성요소를 안내할 수 있다.
• MovieLens에서 사전 학습된 denoising autoencoder는 콜드 스타트 추천 성능을 향상시키고, 스위칭 디코더와 결합되면 발화 수준 평가에서 기본 HRED보다 더 나은 대화 응답을 제공한다.
• 모듈식 접근 방식은 엔드-투-엔드 학습 데이터가 제한될 때도 하위 구성요소를 더 큰 데이터에서 사전 학습시켜 전체 성능을 향상시킨다.
• 인간 평가에서 제안된 모델은 표준 HRED 베이스라인보다 대화 응답 순위 지정에서 우수하지만, 인간과의 완전한 상호작용 평가를 수행하는 것은 아직 남아 있다.]
• Table headers
• [ ],
• table_headers_translated
• 모델
• ReDial에서의 RMSE (0-1 척도) ±
• MovieLens RMSE (0.5-5 척도) 사전 학습 없음
• MovieLens RMSE (0.5-5 척도) MovieLens에서 사전 학습