[논문 리뷰] Augmenting the User-Item Graph with Textual Similarity Models

Federico López, Martin Scholz외 4명|arXiv (Cornell University)|2021. 09. 20.

Recommender Systems and Techniques인용 수 1

한 줄 요약

이 논문은 사전에 훈련된 텍스트 유사도 모델을 제품 설명 및 리뷰에 적용하여 유저-아이템 그래프에 의미 관계를 주입함으로써 그래프의 밀도를 향상시키고 초기 설정 시나리오에서 성능을 향상시키는 비지도 데이터 증강 기법을 제안한다. 이 방법은 다양한 모델과 기하학적 구조에서 추천 성능을 향상시키며, 초기 설정 문제에 특히 효과적이며, 초등적 성능을 달성한다.

ABSTRACT

This paper introduces a simple and effective form of data augmentation for recommender systems. A paraphrase similarity model is applied to widely available textual data, such as reviews and product descriptions, yielding new semantic relations that are added to the user-item graph. This increases the density of the graph without needing further labeled data. The data augmentation is evaluated on a variety of recommendation algorithms, using Euclidean, hyperbolic, and complex spaces, and over three categories of Amazon product reviews with differing characteristics. Results show that the data augmentation technique provides significant improvements to all types of models, with the most pronounced gains for knowledge graph-based recommenders, particularly in cold-start settings, leading to state-of-the-art performance.

연구 동기 및 목표

• 사용자-아이템 상호작용 그래프의 희박성을 개선하기 위해 텍스트 데이터에서 유도된 의미 관계를 도입함으로써 추천 시스템의 초기 설정 문제를 해결하는 것.
• 사전에 훈련된 언어 모델을 통해 의미 관계를 명시적으로 주입함으로써 계산 비용을 증가시키지 않고도 모델의 일반화 성능 향상 여부를 탐색하는 것.
• 이러한 증강 기법이 다양한 추천 모델과 기하 공간(유클리드, 쌍곡, 복소수)에서 효과적인지 평가하는 것.
• 증강된 그래프의 구조적 특성이 쌍곡 기하학에서 더 나은 표현과 성능을 위한 이점을 가지는지 분석하는 것.
• 어느 텍스트 입력(예: 제품 설명 대비 리뷰)이 관계 추출에 가장 효과적인지 규명하는 것.

제안 방법

• 제품 설명 및 리뷰와 같은 아이템 수준의 텍스트 데이터에 사전에 훈련된 동의어 유사도 모델(예: SBERT)을 적용하여 아이템 간의 의미 유사도 점수를 계산한다.
• 이 유사도 점수를 사용하여 사용자-아이템 상호작용 그래프에 새로운 간선을 추가함으로써 명시적인 의미 관계를 가진 다중관계 지식 그래프를 생성한다.
• 라벨이 없는 데이터나 모델 아키텍처를 수정하지 않고도 이러한 새로운 관계를 사용자-아이템 그래프에 확장한다.
• 다양한 추천 모델(유클리드, 쌍곡, 복소수 벡터 공간에서의 지식 그래프 기반 방법 포함)을 사용하여 증강된 그래프의 성능을 평가한다.
• 지역적 및 전역적 기하 측정치(예: 군집 계수, 최단 경로, 곡률)를 사용하여 그래프의 구조적 분석을 수행함으로써 쌍곡 임bedding에 적합한지 평가한다.
• 증강된 관계가 성능에 미치는 영향을 분리하여 분석하기 위해 추출 분석(ablation study)을 수행하며, 특히 초기 설정 및 낮은 데이터 환경에서의 영향을 중점적으로 다룬다.

실험 결과

연구 질문

• RQ1 RQ1: 텍스트 유사도 모델에서 유도된 의미 관계를 사용자-아이템 그래프에 증강함으로써 다양한 모델 아키텍처에서 추천 성능 향상이 이루어지는가?
• RQ2 RQ2: 이 데이터 증강 기법이 다중관계 지식 그래프를 전용으로 설계하지 않은 모델들에서도 성능 향상에 기여하는가?
• RQ3 RQ3: 증강 기법이 새로운 사용자나 상호작용이 희박한 아이템이 포함된 초기 설정 시나리오에서 성능에 어떤 영향을 미치는가?
• RQ4 RQ4: 제품 설명과 리뷰 중 어느 텍스트 입력이 추천에 더 효과적인 의미 관계를 생성하는가?
• RQ5 RQ5: 증강된 그래프의 구조적 특성이 유클리드 또는 복소수 공간 대비 쌍곡 기하학에 더 적합한지를 판단할 수 있는가?

주요 결과

• 제안된 데이터 증강 기법은 테스트된 모든 모델에서 추천 성능을 크게 향상시키며, 특히 초기 설정 환경에서 가장 높은 성과를 기록하여 초등적 성능을 달성한다.
• 증강된 그래프는 더 높은 군집 계수와 더 짧은 평균 경로 길이를 보이며, 이는 쌍곡 기하학에 적합한 계층적 구조를 지니고 있음을 시사한다.
• 지식 그래프 기반 추천 모델이 증강 기법에서 가장 큰 이점을 얻으며, 특히 쌍곡 공간과 조합할 경우 이전의 KG 기반 추천 모델과 비-KG 초등적 성능 모델을 모두 능가한다.
• 제품 설명만으로도 매우 효과적인 의미 관계를 생성할 수 있으며, 정보 밀도와 성능 향상 측면에서 리뷰보다 종종 뛰어나다.
• 이 방법은 아키텍처에 관계없이 적용 가능하다: 다중관계 지식 그래프를 내장으로 지원하지 않는 모델들 역시 성능 향상을 경험한다.
• 쌍곡 공간은 증강된 그래프의 표현에 더 뛰어난 해석 가능성과 낮은 차원의 표현을 제공하며, 그래프의 계층적 구조가 뚜렷할수록 성능 향상이 더욱 두드러진다.