[논문 리뷰] Application of Knowledge Graphs to Provide Side Information for Improved Recommendation Accuracy

Yuhao Mao, Serguei A. Mokhov외 1명|arXiv (Cornell University)|2021. 01. 07.

Recommender Systems and Techniques참고 문헌 15인용 수 4

한 줄 요약

이 논문은 지식 그래프를 보조 정보로 통합하여 추천 시스템의 정확도를 향상시키는 일반적인 소프트웨어 프레임워크를 제안한다. 영화의 배우, 감독, 사용자 인구통계학적 정보 등의 제품 및 사용자 메타데이터를 지식 그래프로 인코딩하고 모델 훈련 중에 이를 활용함으로써, 기준 모델 대비 최대 1% 높은 AUC와 정확도를 달성한다.

ABSTRACT

Personalized recommendations are popular in these days of Internet driven activities, specifically shopping. Recommendation methods can be grouped into three major categories, content based filtering, collaborative filtering and machine learning enhanced. Information about products and preferences of different users are primarily used to infer preferences for a specific user. Inadequate information can obviously cause these methods to fail or perform poorly. The more information we provide to these methods, the more likely it is that the methods perform better. Knowledge graphs represent the current trend in recording information in the form of relations between entities, and can provide additional (side) information about products and users. Such information can be used to improve nearest neighbour search, clustering users and products, or train the neural network, when one is used. In this work, we present a new generic recommendation systems framework, that integrates knowledge graphs into the recommendation pipeline. We describe its software design and implementation, and then show through experiments, how such a framework can be specialized for a domain, say movie recommendations, and the improvements in recommendation results possible due to side information obtained from knowledge graphs representation of such information. Our framework supports different knowledge graph representation formats, and facilitates format conversion, merging and information extraction needed for training recommendation methods.

연구 동기 및 목표

• 기존 추천 시스템에서 사용자 및 아이템 정보가 부족한 문제를 해결한다.
• 다양한 보조 정보를 지식 그래프에서 통합하여 추천 파이프라인에 적용할 수 있는 통합 소프트웨어 프레임워크를 제공한다.
• 구조화된 지식(예: 실체, 관계)의 확장성 있고 상호운용 가능한 사용을 통해 모델의 일반화 능력과 해석 가능성 향상을 지원한다.
• 다양한 지식 표현 형식과 머신러닝 백엔드를 지원하여 광범위한 연구 및 구현 호환성을 확보한다.
• MovieLens-1M 데이터셋을 대상으로 지식 인식 추천 모델(MKR)을 사용하여 프레임워크의 효과성을 실증적 평가로 입증한다.

제안 방법

• RDF, RDFS, OWL 또는 Neo4j 형식을 사용하여 보조 정보(예: 영화 장르, 배우, 감독, 사용자 연령, 직업)를 지식 그래프의 삼중항으로 표현한다.
• 파이썬으로 구현된 모듈러 소프트웨어 프레임워크를 개발하여 지식 그래프 수신, 형식 변환, 병합, 정보 추출 기능을 지원한다.
• 지식 그래프를 딥러닝 추천 모델(MKR)에 통합하여 아이템 및 사용자 임베딩에 그래프 기반 보조 정보를 강화한다.
• 평가 예측 및 지식 인식 대비 학습을 동시에 최적화하기 위해 MKR 모델에서 다중 작업 학습 목표를 사용한다.
• 사전 훈련된 그래프 구조와 모델 가중치 캐싱을 통해 실시간 추론을 지원하고, 타임스탬프 기반 파이프라인 실행을 통해 지연 시간을 측정한다.
• 미래의 확장성을 위해 계획된 자바 API 래퍼를 제공하고, 파이토치, 사이킷런 등의 다양한 머신러닝 프레임워크 지원을 구현한다.

실험 결과

연구 질문

• RQ1 지식 그래프에서 유도된 구조화된 보조 정보 통합이 추천 모델의 정확도에 어떤 영향을 미치는가?
• RQ2 어떤 종류의 보조 정보(예: 사용자 인구통계학적 정보, 영화 포스터, 배우, 감독)가 추천 성능 향상에 가장 기여하는가?
• RQ3 일반적이고 확장 가능한 소프트웨어 프레임워크가 다양한 지식 그래프 형식과 머신러닝 백엔드를 추천 시스템에서 효과적으로 지원할 수 있는가?
• RQ4 기존 기준 대비 실시간 추론 지연 시간 측면에서 프레임워크의 성능은 어떠한가?
• RQ5 희소한 보조 정보(예: 영화 포스터)는 모델 성능을 저하시키는가? 그리고 특징 추출을 통해 이를 개선할 수 있는가?

주요 결과

• 사용자 및 영화의 보조 정보(예: 연령, 직업, 배우, 감독)를 통합함으로써 테스트 AUC가 0.9136으로 상승하여 기준 모델(0.9042) 대비 0.9% 향상되었다.
• 사용자 측 보조 정보(연령, 직업)가 성능 향상에 기여했으며, 기준 모델에 추가했을 때 테스트 AUC가 0.9091로 상승했다.
• 영화 측 보조 정보(장르, 배우, 감독)만으로도 테스트 AUC가 0.9061로 상승하여 기준 모델 대비 0.2% 향상되었다.
• 포스터 기반 보조 정보는 데이터 희소성으로 인해 부정적인 영향을 미쳐 테스트 AUC는 0.9029로 하락하고 정확도는 0.8214로 떨어졌으며, 이는 시각적 특징 추출 없이선 유용성이 제한적임을 시사한다.
• 노트북에서 평균 추론 지연 시간이 634.33ms로 실시간 기준인 2000ms 이하로 떨어져 실용적인 구현 가능성을 입증했다.
• 모듈러 설계 덕분에 RDF, OWL, Neo4j 등의 다양한 지식 그래프 형식을 지원하며, 향후 파이토치, Caffe 등의 추가 프레임워크 통합도 가능하다.