[논문 리뷰] Improving Conversational Recommender System via Contextual and Time-Aware Modeling with Less Domain-Specific Knowledge

Lingzhi Wang, Shafiq Joty외 3명|arXiv (Cornell University)|2022. 09. 23.

Recommender Systems and Techniques인용 수 5

한 줄 요약

이 논문은 외부 도메인 특화 지식 대신 내부 대화 맥락을 활용하는 맥락 및 시간에 민감한 대화형 추천 시스템을 제안한다. 시간에 민감한 어텐션 메커니즘을 사용하여 엔티티 수준과 맥락 수준의 표현을 함께 모델링하고, 사전 훈련된 BART로 생성 모듈를 초기화함으로써, 외부 지식에 대한 의존도를 줄이고 다양한 도메인 간 일반화 능력을 향상시키며 ReDial과 OpenDialKG에서 최신 기술 성능을 달성한다.

ABSTRACT

Conversational Recommender Systems (CRS) has become an emerging research topic seeking to perform recommendations through interactive conversations, which generally consist of generation and recommendation modules. Prior work on CRS tends to incorporate more external and domain-specific knowledge like item reviews to enhance performance. Despite the fact that the collection and annotation of the external domain-specific information needs much human effort and degenerates the generalizability, too much extra knowledge introduces more difficulty to balance among them. Therefore, we propose to fully discover and extract internal knowledge from the context. We capture both entity-level and contextual-level representations to jointly model user preferences for the recommendation, where a time-aware attention is designed to emphasize the recently appeared items in entity-level representations. We further use the pre-trained BART to initialize the generation module to alleviate the data scarcity and enhance the context modeling. In addition to conducting experiments on a popular dataset (ReDial), we also include a multi-domain dataset (OpenDialKG) to show the effectiveness of our model. Experiments on both datasets show that our model achieves better performance on most evaluation metrics with less external knowledge and generalizes well to other domains. Additional analyses on the recommendation and generation tasks demonstrate the effectiveness of our model in different scenarios.

연구 동기 및 목표

• 대화형 추천 시스템(CRS)에서 비용이 많이 들고 도메인 특화된 외부 지식에 대한 과도한 의존도를 해결한다.
• 대화 이력으로부터 엔티티 수준(아이템 중심)과 맥락 수준(논의 및 의미) 표현을 모두 캡처하여 사용자 선호도 모델링을 향상시킨다.
• 시간에 민감한 어텐션 메커니즘을 통해 최근에 언급된 아이템에 더 높은 가중치를 부여함으로써 사용자 선호도 모델링에 시간 동적 요소를 통합한다.
• 사전 훈련된 BART 모델을 생성 모듈에 초기화하여 생성된 응답의 품질과 다양성을 향상시킨다.
• ReDial과 OpenDialKG 데이터셋을 사용하여 다수의 도메인에서 제안된 방법의 일반화 능력과 강건성을 입증한다.

제안 방법

• 대화에서 언급된 아이템으로부터 유도된 엔티티 수준 표현과 맥락 인코더로부터 유도된 맥락 수준 표현을 사용하여 사용자 선호도를 모델링한다.
• 최근에 언급된 아이템에 더 높은 어텐션 가중치를 할당하는 시간에 민감한 어텐션 메커니즘을 도입하며, 회귀 효과를 제어하기 위해 학습 가능한 스케일링 인자 λ를 사용한다.
• 응답 생성 모듈의 백본으로 사전 훈련된 BART 모델을 사용하여 생성된 응답의 유창성, 일관성, 다양성을 향상시킨다.
• 엔티티 수준과 맥락 수준 표현을 가중치 합성 기반 융합 메커니즘을 통해 융합하며, 하이퍼파rameter μ로 제어하여 아이템 수준과 논의 수준 신호 간의 동적 균형을 가능하게 한다.
• 교차 엔트로피 손실과 응답 생성 손실을 사용하여 추천 및 생성 작업을 종합적으로 끝내는 방식으로 모델을 훈련한다.
• 어텐션 메커니즘을 활용하여 사용자 발화와 관련된 아이템을 정렬하고 맥락에 적합한 응답을 생성한다.

실험 결과

연구 질문

• RQ1 아이템 리뷰나 지식 그래프와 같은 광범위한 외부 도메인 특화 지식에 의존하지 않고도 대화형 추천 시스템이 높은 성능을 달성할 수 있는가?
• RQ2 특히 아이템 언급의 최근성과 같은 시간 동적 요소를 통합할 경우, 추천 정확도와 사용자 선호도 모델링에 어떤 영향을 미치는가?
• RQ3 논의와 의미를 캡처하는 맥락 수준 표현이 아이템 언급을 캡처하는 엔티티 수준 표현과 얼마나 보완적으로 작용하여 추천 품질을 향상시키는가?
• RQ4 BART를 대규모 텍스트에서 사전 훈련하여 응답 생성 품질과 다양성을 저자원 CRS 환경에서 크게 향상시킬 수 있는가?
• RQ5 기존 방법과 비교해 볼 때, 제안된 모델은 영화(ReDial)와 책(OpenDialKG)과 같은 서로 다른 도메인 간에 얼마나 잘 일반화되는가?

주요 결과

• 제안된 모델은 ReDial과 OpenDialKG 데이터셋에서 모두 최신 기술 성능을 달성하였으며, 외부 지식 사용을 줄였음에도 대부분의 평가 지표에서 기존 방법을 능가한다.
• 시간에 민감한 어텐션 메커니즘이 추천 성능을 크게 향상시켰으며, λ > 1일 때 최적의 성능을 기록하여 최근에 언급된 아이템이 추천에 더 큰 기여를 한다는 것을 확인했다.
• 엔티티 수준과 맥락 수준 표현의 융합은 성능 향상을 가져왔으며, 최고의 결과는 μ ≈ 0.5에서 관찰되어 두 표현이 필수적이며 상호 보완적임을 시사한다.
• 사전 훈련된 BART를 사용한 응답 생성은 반복적이거나 일반적인 답변을 자주 생성하는 베이스라인에 비해 더 다양한 맥락에 부합하는 응답을 생성한다.
• 제안된 모델은 새로운 도메인에 대해 잘 일반화되며, 훈련 도메인과 다를 바 있는 다도메인 데이터셋인 OpenDialKG에서도 강력한 성능을 보였다.
• Dist-n 및 BLEU 지표는 길이 페널티로 인해 응답 길이에 민감하므로, 자동 평가 지표만으로는 생성 품질을 신뢰성 있게 반영할 수 없으며, 인간 평가를 권장한다.