[논문 리뷰] Application of Statistical Relational Learning to Hybrid Recommendation Systems

Shuo Yang, Mohammed Korayem외 3명|arXiv (Cornell University)|2016. 07. 04.

Recommender Systems and Techniques참고 문헌 16인용 수 4

한 줄 요약

이 논문은 내용 기반 및 협업 필터링을 광범위한 특성 공학 없이 통합하는 통계적 관계 학습(SRL) 방법인 관계 기반 기능 경사 부스팅(RFGB)을 사용하여 확장 가능한 하이브리드 추천 시스템을 제안한다. 이 방법은 정밀도-재현율 균형을 비용 감수성 목적 함수를 통해 조정하여 잘못된 양성 결과(가짜 양성)를 줄이며, 사용자 만족도에 매우 중요하다. 실세계의 직업 추천 데이터에서 대규모로 높은 정밀도와 재현율을 달성한다.

ABSTRACT

Recommendation systems usually involve exploiting the relations among known features and content that describe items (content-based filtering) or the overlap of similar users who interacted with or rated the target item (collaborative filtering). To combine these two filtering approaches, current model-based hybrid recommendation systems typically require extensive feature engineering to construct a user profile. Statistical Relational Learning (SRL) provides a straightforward way to combine the two approaches. However, due to the large scale of the data used in real world recommendation systems, little research exists on applying SRL models to hybrid recommendation systems, and essentially none of that research has been applied on real big-data-scale systems. In this paper, we proposed a way to adapt the state-of-the-art in SRL learning approaches to construct a real hybrid recommendation system. Furthermore, in order to satisfy a common requirement in recommendation systems (i.e. that false positives are more undesirable and therefore penalized more harshly than false negatives), our approach can also allow tuning the trade-off between the precision and recall of the system in a principled way. Our experimental results demonstrate the efficiency of our proposed approach as well as its improved performance on recommendation precision.

연구 동기 및 목표

• 기존 하이브리드 추천 시스템이 광범위한 특성 공학을 요구하는 한계를 해결하기 위해 통계적 관계 학습(SRL)을 활용하고자 한다.
• CareerBuilder와 같은 플랫폼에서 볼 수 있듯이 수십억 건의 직업 및 이력서 기록을 처리할 수 있는 확장 가능하고 실세계 적용 가능한 추천 시스템을 개발하고자 한다.
• 정밀도를 재현율보다 우선시하는 도메인 특화 비용 선호도를 반영하기 위해 잘못된 양성 결과와 잘못된 음성 결과 사이의 균형을 조정함으로써 정밀도-재현율 균형을 원칙적으로 조정하고자 한다.
• 특정 도메인의 비용 구조(예: 잘못된 양성 결과에 더 높은 벌점)를 반영할 수 있도록 정밀도-재현율 균형을 원칙적으로 조정할 수 있는지 평가하고자 한다.
• SRL을 사용하여 내용 기반 및 협업 필터링을 융합하는 것이 냉시작 사용자에게 더 잘 작동하는지, 기존 하이브리드 시스템에 비해 수동적 특성 공학의 필요성을 줄일 수 있는지 평가하고자 한다.

제안 방법

• 사용자, 직업, 그들의 속성 간의 확률적 종속성을 학습하기 위해 관계 회귀 트리로 구성된 부스팅 모델인 관계 기반 기능 경사 부스팅(RFGB)을 사용한다.
• 이력서, 직업 공고, 사용자 지원 이력의 특징을 바탕으로 사용자에게 어떤 직업을 추천할지 예측하기 위해 대상 관계 Match(User, Job)를 정의한다.
• 사용자-직업 및 사용자-사용자 유사도를 모델링하기 위해 일阶 술어인 UserSkill, JobSkill, UserJobDis(거리), PrAppliedJob(이전 지원 기록)를 사용한다.
• 유사한 사용자로부터 목표 사용자에게 지식을 전이하기 위해 CommSkill, CommClass, CommCity 등의 협업 필터링 다리를 도입한다.
• 초파rameter α와 β를 사용하여 정밀도-재현율 균형을 조정할 수 있도록 RFGB에 페널티 항을 도입하여 목적 함수에 적용한다.
• 모델의 강건성과 확장성 향상을 위해 연속적인 특징(예: 지리적 거리)을 네 개의 클래스로 이산화한다.

실험 결과

연구 질문

• RQ1 수십억 개의 데이터 포인트를 처리하는 실세계 대규모 직업 추천 시스템에 통계적 관계 학습(SRL)을 효과적으로 스케일링할 수 있는가?
• RQ2 SRL을 통해 내용 기반 필터링과 협업 필터링을 융합하면 내용 기반 필터링만 사용할 때보다 추천 성능이 향상되는가?
• RQ3 도메인 특화 비용 행렬을 반영하기 위해 잘못된 양성 결과에 더 높은 벌점을 부여하는 등의 방식으로 정밀도-재현율 균형을 원칙적으로 조정할 수 있는가?
• RQ4 SRL 기반 모델은 기존 하이브리드 시스템에 비해 수동적 특성 공학의 필요성을 줄이고 냉시작 사용자 문제를 더 잘 다룰 수 있는가?

주요 결과

• 내용 기반 필터링만 사용할 때와 비교해 하이브리드 SRL 기반 시스템은 재현율(모든 사용자 유형에서 1.0에 도달)과 AUC-ROC를 크게 향상시키며, 경쟁 수준의 정밀도와 정확도를 유지한다.
• 비용 감수성 학습과 소프트 마진 접근법을 통해 잘못된 양성 결과 비율(FPR)이 크게 감소했으며, 도메인 특화 비용 행렬을 고려하지 않는 이전 방법들보다 뛰어난 성능을 보였다.
• 정밀도와 재현율을 동시에 높은 수준으로 유지하면서도 초파rameter α와 β를 통해 이 둘 사이의 균형을 조정할 수 있어 다양한 구현 요구사항에 맞게 맞춤 설정이 가능하다.
• 마르코프 논리 네트워크(MLNs)는 동일한 데이터에서 세 달이 넘도록 계산을 수행한 후에도 스케일링에 실패했으며, 이는 제안된 RFGB 기반 SRL 접근법의 효율성 우수성을 시사한다.
• 유사한 사용자로부터의 관계 기반 특징을 활용함으로써 냉시작 문제를 효과적으로 다루었으며, 광범위한 특성 공학에 의존하는 것을 줄였다.
• 이 연구는 SRL이 실세계 추천 시스템에서 대규모로 성공적으로 적용될 수 있음을 보여주며, 빅데이터 기반 직업 추천 환경에서의 첫 번째 실제 도입 사례로 기록된다.