[논문 리뷰] Click-Through Rate Prediction Using Graph Neural Networks and Online Learning

Farzaneh Rajabi, Jack Siyuan He|arXiv (Cornell University)|2021. 05. 09.

Image and Video Quality Assessment참고 문헌 18인용 수 4

한 줄 요약

이 논문은 동적 사용자-아이템 상호작용을 포착하기 위해 온라인 학습을 통합한 그래프 신경망(GNN) 기반 클릭률(CTR) 예측 모델을 제안한다. 특성 상호작용을 그래프 구조로 모델링하고 실시간으로 적응함으로써, 서브샘플링된 Criteo 데이터셋에서 테스트 AUC 0.7585를 달성하며, 오프라인 GNN 및 DeepFM 기준 모델들을 능가한다.

ABSTRACT

Recommendation systems have been extensively studied by many literature in the past and are ubiquitous in online advertisement, shopping industry/e-commerce, query suggestions in search engines, and friend recommendation in social networks. Moreover, restaurant/music/product/movie/news/app recommendations are only a few of the applications of a recommender system. A small percent improvement on the CTR prediction accuracy has been mentioned to add millions of dollars of revenue to the advertisement industry. Click-Through-Rate (CTR) prediction is a special version of recommender system in which the goal is predicting whether or not a user is going to click on a recommended item. A content-based recommendation approach takes into account the past history of the user's behavior, i.e. the recommended products and the users reaction to them. So, a personalized model that recommends the right item to the right user at the right time is the key to building such a model. On the other hand, the so-called collaborative filtering approach incorporates the click history of the users who are very similar to a particular user, thereby helping the recommender to come up with a more confident prediction for that particular user by leveraging the wider knowledge of users who share their taste in a connected network of users. In this project, we are interested in building a CTR predictor using Graph Neural Networks complemented by an online learning algorithm that models such dynamic interactions. By framing the problem as a binary classification task, we have evaluated this system both on the offline models (GNN, Deep Factorization Machines) with test-AUC of 0.7417 and on the online learning model with test-AUC of 0.7585 using a sub-sampled version of Criteo public dataset consisting of 10,000 data points.

연구 동기 및 목표

• CTR 예측에서 오프라인 평가 지표와 온라인 성능 사이의 격차를 해소하기 위해 동적 사용자-추천자 상호작용을 모델링한다.
• 그래프 신경망을 통해 고차원 특성 상호작용을 명시적으로 모델링하여 CTR 예측 정확도를 향상시킨다.
• 온라인 학습을 통합하여 사용자 행동의 변화에 실시간으로 모델을 적응시킬 수 있도록 한다.
• 정적 오프라인 모델과 블랙박스 딥러닝의 한계를 극복하기 위해 설명 가능한 인자 분해 기법과 동적 학습을 융합한다.
• 정확도, 설명 가능성, 사용자 피드백에 대한 반응성 간의 균형을 고려한 확장 가능하고 적응 가능한 추천 시스템을 개발한다.

제안 방법

• 다중 분야의 순서형 특성을 이질적 그래프의 노드로 표현하며, 간선은 특성 상호작용을 인코딩한다.
• 메시지 전파를 통해 이웃 정보를 집계하고 노드 표현을 업데이트하기 위해 그래프 상호작용 네트워크(GIN)의 변종을 적용한다.
• 최근 사용자 상호작용의 슬라이딩 윈도우를 활용해 확률적 경사 하강 업데이트를 통해 온라인 학습을 통합한다.
• GNN이 고차원 특성 상호작용을 모델링하는 능력과 경량 온라인 업데이트 규칙을 융합하여 모델의 관련성을 유지한다.
• 엔드 투 엔드 훈련을 위해 이진 교차 엔트로피 손실 함수를 사용하며, Adam 최적화 기법과 학습률 스케줄링을 적용한다.
• 예측 클릭 확률를 상위-K 추천으로 변환하기 위해 임계값 기반 추론(예: 0.3)을 적용한다.

실험 결과

연구 질문

• RQ1 온라인 미세조정을 통한 GNN 기반 CTR 모델이 실제 동적 환경에서 정적 오프라인 모델을 능가할 수 있는가?
• RQ2 그래프 구조를 통해 모델링된 고차원 특성 상호작용은 제1차 및 제2차 방법을 초월해 CTR 예측을 어떻게 향상시키는가?
• RQ3 온라인 학습이 모델 일반화 능력과 온라인 A/B 테스트 결과의 일치도에 얼마나 기여하는가?
• RQ4 데이터 불균형과 클래스 편향은 모델 성능에 어떤 영향을 미치며, 이를 CTR 예측에서 어떻게 완화할 수 있는가?
• RQ5 GNN과 온라인 학습을 융합한 하이브리드 모델은 DeepFM 및 단독 GNN 기준 모델보다 더 높은 AUC와 리콜을 달성할 수 있는가?

주요 결과

• 온라인 학습을 통합한 GNN은 테스트 AUC 0.7585를 기록하며, 오프라인 GNN(0.7417) 및 DeepFM 기준 모델들을 능가했다.
• 지속적인 온라인 업데이트를 통해 새로운 사용자 행동 패턴에 적응함으로써 개념 이동에 대한 강건성이 향상되었다.
• 높은 클래스 불균형(음성 클래스 정확도: 0.96)에도 불구하고 최적의 임계값(0.3)에서 상대적으로 높은 F1 스코어를 유지하여 왜곡된 데이터를 효과적으로 처리했다.
• 혼동 행렬 분석 결과 고차원의 거짓 음성 비율이 확인되어 데이터 불균형 문제의 지속적 도전 과제임을 확인했으며, 이는 재표본화나 클래스 가중치 조정으로 완화될 수 있다.
• 모델의 리콜은 기준 모델보다 상당히 낮게 나타났으며, 향후 연구에서는 데이터 재균형화 및 임계값 튜닝을 통해 리콜 향상을 우선적으로 고려해야 할 것으로 보인다.
• GNN 구성 요소(예: 엣지별 어텐션, 잔차 연결)의 분석적 제거를 통해 추가로 AUC 향상을 이끌 수 있었을 것이지만, 이는 향후 연구 과제로 남겨졌다.