[논문 리뷰] Knowledge-aware Neural Networks with Personalized Feature Referencing for Cold-start Recommendation

Xinni Zhang, Yankai Chen외 4명|arXiv (Cornell University)|2022. 09. 28.

Recommender Systems and Techniques인용 수 5

한 줄 요약

이 논문은 추천 시스템의 쿨스타트 문제를 해결하기 위해 개인화된 특징 참조 기능을 갖춘 지식 인식 신경망인 KPER을 제안한다. 지식 그래프를 의미적 다리로 활용하여 구조적으로는 떨어져 있지만 의미적으로 유사한 사용자/아이템을 적응형 시드로 식별하고, 게이트된 정보 집합을 적용하여 잠재 특징을 풍부화함으로써, 네 개의 실세계 데이터셋에서 Top-10 추천 성능이 각각 1.01%–14.49% 및 0.81%–16.08% 향상되어 기존 방법보다 쿨스타트 및 일반 상황 모두에서 뛰어난 성능을 달성한다.

ABSTRACT

Incorporating knowledge graphs (KGs) as side information in recommendation has recently attracted considerable attention. Despite the success in general recommendation scenarios, prior methods may fall short of performance satisfaction for the cold-start problem in which users are associated with very limited interactive information. Since the conventional methods rely on exploring the interaction topology, they may however fail to capture sufficient information in cold-start scenarios. To mitigate the problem, we propose a novel Knowledge-aware Neural Networks with Personalized Feature Referencing Mechanism, namely KPER. Different from most prior methods which simply enrich the targets' semantics from KGs, e.g., product attributes, KPER utilizes the KGs as a "semantic bridge" to extract feature references for cold-start users or items. Specifically, given cold-start targets, KPER first probes semantically relevant but not necessarily structurally close users or items as adaptive seeds for referencing features. Then a Gated Information Aggregation module is introduced to learn the combinatorial latent features for cold-start users and items. Our extensive experiments over four real-world datasets show that, KPER consistently outperforms all competing methods in cold-start scenarios, whilst maintaining superiority in general scenarios without compromising overall performance, e.g., by achieving 0.81%-16.08% and 1.01%-14.49% performance improvement across all datasets in Top-10 recommendation.

연구 동기 및 목표

• 상호작용 기록이 최소한인 사용자 또는 아이템에서 발생하는 쿨스타트 추천 문제를 해결하기 위해.
• 기존의 지식 인식 모델이 위상 전파에 의존하고 상호작용 희소성 상황에서 실패하는 한계를 극복하기 위해.
• 밀도 높은 상호작용 구조에 의존하지 않고도 쿨스타트 사용자 및 아이템의 효과적인 잠재 특징 풍부화를 가능하게 하기 위해.
• 냉각 상태 성능을 크게 향상시키는 동안 일반 추천 시나리오에서도 뛰어난 성능을 유지하기 위해.
• 의미적으로 관련이 있지만 구조적으로는 떨어진 대리자를 특징 전달을 위한 기준으로 식별하는 개인화된 특징 참조 메커니즘을 도입하기 위해.

제안 방법

• KPER는 상호작용 정보 인코딩, 민감도 지식 인코딩, 개인화된 특징 참조의 세 모듈로 구성된 파이프라인을 사용한다.
• 상호작용 정보 인코딩은 주어진 상호작용에서 사용자 및 아이템 표현을 주의 기반 집합 메커니즘을 사용해 요약한다.
• 민감도 지식 인코딩은 지식 그래프에서 다단계 지식을 추출하면서 사용자 및 아이템 간의 다양성을 유지한다.
• 개인화된 특징 참조는 적응형 시드 탐색을 통해 의미적으로 유사하지만 구조적으로는 떨어진 사용자 또는 아이템을 특징 기준으로 식별한다.
• 지속적인 근사화 방법을 통해 시드 탐색 과정의 학습 안정성을 확보한 후, 게이트된 정보 집합을 통해 기준 특징과 대상 임bedding을 결합한다.
• 대비 학습 목표를 사용하여 사용자 및 아이템 임베딩을 동시에 최적화함으로써 의미적 정렬을 향상시킨다.

실험 결과

연구 질문

• RQ1 지식 그래프를 의미적 다리로 활용하여 쿨스타트 사용자 및 아이템의 표현 학습을 향상시킬 수 있는가?
• RQ2 의미적으로 유사하지만 구조적으로는 떨어진 실체를 기반으로 한 개인화된 특징 참조가 상호작용 희소성 상황에서 위상 기반 정보 전파보다 우월한가?
• RQ3 제안된 방법은 쿨스타트 성능을 크게 향상시키는 동안 일반 추천 시나리오에서도 뛰어난 성능을 유지할 수 있는가?
• RQ4 상호작용 인코딩, 민감도 지식 인코딩, 특징 참조와 같은 설계 선택 사항이 모델 성능에 어떤 영향을 미치는가?
• RQ5 강건하고 일반화 가능한 성능을 확보하기 위해 지식 추출의 최적 깊이와 샘플링 크기는 얼마인가?

주요 결과

• KPER는 네 개의 모든 데이터셋에서 Top-10 추천 정확도가 0.81%에서 16.08%까지 상승했으며, 특히 쿨스타트 상황에서 가장 큰 향상을 보였다.
• 제거 실험에서 개인화된 특징 참조 모듈을 제거할 경우 성능 저하가 가장 크게 발생하여 이 모듈의 핵심적 역할을 확인했다.
• 민감도 지식 인코딩 모듈은 기여도가 뚜렷했으며, 주의 메커니즘을 제거하면 모든 데이터셋에서 뚜렷한 성능 저하가 발생했다.
• 상호작용 정보 인코딩은 필수적이며, 이를 제외한 변형 모델은 일관되게 성능 저하를 보여, 희소 상호작용에서의 학습 가치를 확인했다.
• 최적의 샘플링 크기는 8~16명의 이웃이며, 지식 추출 깊이 2가 최고의 성능을 보였으며, 이는 더 긴 경로가 노이즈를 유발하기 때문임을 시사한다.
• KPER는 일반 추천 성능을 유지하며, 쿨스타트 성능 향상이 전체 효과성에 영향을 주지 않음을 보여주었다.