[논문 리뷰] KECRS: Towards Knowledge-Enriched Conversational Recommendation System

Tong Zhang, Yong Liu외 4명|arXiv (Cornell University)|2021. 05. 18.

Topic Modeling참고 문헌 39인용 수 11

한 줄 요약

KECRS는 대화 기반 추천 대화에서 응답의 다양성과 정보성 향상을 위해 외부 지식 그래프(KG)를 통합하는 지식 풍부한 대화형 추천 시스템을 제안한다. Bag-of-Entity(BOE) 손실과 인퓨전 손실을 도입함으로써 지식 통합과 임베딩 정렬을 향상시켜 새로 구축한 영화 도메인 지식 그래프(TMDKG)를 사용해 추천 정확도와 응답 품질 측면에서 최신 기술 수준의 성능을 달성한다.

ABSTRACT

The chit-chat-based conversational recommendation systems (CRS) provide item recommendations to users through natural language interactions. To better understand user's intentions, external knowledge graphs (KG) have been introduced into chit-chat-based CRS. However, existing chit-chat-based CRS usually generate repetitive item recommendations, and they cannot properly infuse knowledge from KG into CRS to generate informative responses. To remedy these issues, we first reformulate the conversational recommendation task to highlight that the recommended items should be new and possibly interested by users. Then, we propose the Knowledge-Enriched Conversational Recommendation System (KECRS). Specifically, we develop the Bag-of-Entity (BOE) loss and the infusion loss to better integrate KG with CRS for generating more diverse and informative responses. BOE loss provides an additional supervision signal to guide CRS to learn from both human-written utterances and KG. Infusion loss bridges the gap between the word embeddings and entity embeddings by minimizing distances of the same words in these two embeddings. Moreover, we facilitate our study by constructing a high-quality KG, \ie The Movie Domain Knowledge Graph (TMDKG). Experimental results on a large-scale dataset demonstrate that KECRS outperforms state-of-the-art chit-chat-based CRS, in terms of both recommendation accuracy and response generation quality.

연구 동기 및 목표

• 기존 대화 기반 대화형 추천 시스템(CRS)에서 반복적인 항목 추천과 일반적인 응답의 한계를 해결한다.
• 신규이며 사용자 관심사와 일치하는 추천을 우선시하는 대화형 추천 작업을 재정의한다.
• 대화 발화와 지식 그래프 엔터티 간의 의미적 격차를 해소하여 더 정보가 풍부하고 다양한 응답을 생성한다.
• 더 나은 이해와 응답 생성을 지원하기 위해 영화 추천에 특화된 고품질의 도메인 전용 지식 그래프(TMDKG)를 개발한다.
• 지식 그래프 임베딩과 자연어 임베딩 간의 통합을 향상시켜 추천 및 대화 생성 성능을 모두 향상시킨다.

제안 방법

• 응답 생성 과정에서 지식 그래프로부터 관련 엔터티를 선택하도록 모델을 이끌어 다양성과 정보성 향상을 도모하기 위해 Bag-of-Entity(BOE) 손실을 제안한다.
• 단어 임베딩과 지식 그래프 엔터티 임베딩 간의 코사인 거리를 최소화하여 단어 임베딩과 엔터티 임베딩을 정렬하는 인퓨전 손실을 도입한다.
• 영화 속성, 장르, 관계 등이 풍부하게 포함된 고품질의 도메인 전용 KG인 The Movie Domain Knowledge Graph(TMDKG)를 구축한다.
• 이중 모듈 아키텍처에 지식 그래프를 통합한다: 항목 선택을 위한 추천 모듈과 자연어 응답 생성을 위한 응답 생성 모듈.
• 대화 응답 손실, BOE 손실, 인퓨전 손실의 조합을 사용해 피니튜닝하여 응답 유창성, 관련성, 지식 통합을 동시에 최적화한다.
• PCA 시각화를 적용하여 인퓨전 손실이 단어 임베딩과 엔터티 임베딩을 동일한 의미 공간에 정렬하는 데 효과적임을 입증한다.

실험 결과

연구 질문

• RQ1 지식 그래프 통합이 대화 기반 대화형 추천 시스템에서 반복적인 항목 추천을 줄일 수 있는가?
• RQ2 단어 임베딩과 엔터티 임베딩을 효과적으로 정렬하면 응답의 관련성과 정보성 향상에 기여할 수 있는가?
• RQ3 일반 목적의 지식 그래프인 DBpedia와 비교해 도메인 특화 고품질 지식 그래프(TMDKG)를 사용할 경우 추천 및 응답 생성 성능이 향상되는가?
• RQ4 제안된 BOE 및 인퓨전 손실이 대화형 추천에서 응답의 다양성과 품질을 어느 정도 향상시키는가?
• RQ5 사용자 언급된 항목 외의 선호도(예: 장르 선호도)를 대화 맥락에서 유추함으로써 모델이 사용자 선호도에 일반화할 수 있는가?

주요 결과

• KECRS는 TMDKG 기반으로 응답 생성 메트릭에서 최신 기술 수준의 성능을 달성했으며, Dist-4 점수는 1.23을 기록해 최고의 베이스라인인 KGSF의 0.73를 크게 앞서며 유의하게 높은 성능을 보였다.
• PCA 플롯을 통한 시각적 확인 결과, 인퓨전 손실이 단어 임베딩과 엔터티 임베딩 간의 분포 격차를 줄여 효과적으로 정렬하고 있음을 입증했다.
• DBpedia 대비 TMDKG를 사용할 경우 모든 메트릭에서 응답 생성 성능 향상이 관찰되어, 도메인 특화 지식 그래프가 더 적은 노이즈와 더 관련성 있는 정보를 포함하고 있음을 시사한다.
• KECRS는 TMDKG를 사용할 경우 KBRD 및 KGSF보다 추천 정확도와 응답 품질 측면에서 일관되게 뛰어난 성능을 보였으며, AEN 및 Dist-4 메트릭에서 유의미한 향상(유의수준 p < 0.01)을 보였다.
• 사례 연구 결과, KECRS는 대화 이력에서 사용자 선호도(예: 스릴러 좋아함)를 유추해 새로운 관련 항목(예: It (2017))을 추천하고 정보가 풍부하며 맥락 기반의 풍부한 응답을 생성할 수 있음을 확인했다.
• 제거 실험(ablation study) 결과, 인퓨전 손실을 제거할 경우 임베딩 정렬이 약화되고 응답 품질이 떨어짐을 확인하여, 이 손실이 지식 통합에 핵심적인 역할을 함을 검증했다.