[논문 리뷰] DebiasedRec: Bias-aware User Modeling and Click Prediction for Personalized News Recommendation

Jingwei Yi, Fangzhao Wu외 4명|arXiv (Cornell University)|2021. 04. 15.

Recommender Systems and Techniques참고 문헌 43인용 수 8

한 줄 요약

DebiasRec는 클릭 행동 내 위치 및 크기 편향을 모델링하여 사용자 관심 추론과 클릭 예측을 향상시키는 편향 인지 뉴스 추천 프레임워크를 제안한다. 클릭 점수를 선호도 및 편향 성분으로 분해하고 주의 메커니즘을 사용해 편향된 클릭을 걸러내어 실제 데이터셋에서 뛰어난 추천 성능을 달성한다.

ABSTRACT

News recommendation is critical for personalized news access. Existing news recommendation methods usually infer users' personal interest based on their historical clicked news, and train the news recommendation models by predicting future news clicks. A core assumption behind these methods is that news click behaviors can indicate user interest. However, in practical scenarios, beyond the relevance between user interest and news content, the news click behaviors may also be affected by other factors, such as the bias of news presentation in the online platform. For example, news with higher positions and larger sizes are usually more likely to be clicked. The bias of clicked news may bring noises to user interest modeling and model training, which may hurt the performance of the news recommendation model. In this paper, we propose a bias-aware personalized news recommendation method named DebiasRec, which can handle the bias information for more accurate user interest inference and model training. The core of our method includes a bias representation module, a bias-aware user modeling module, and a bias-aware click prediction module. The bias representation module is used to model different kinds of news bias and their interactions to capture their joint effect on click behaviors. The bias-aware user modeling module aims to infer users' debiased interest from the clicked news articles by using their bias information to calibrate the interest model. The bias-aware click prediction module is used to train a debiased news recommendation model from the biased click behaviors, where the click score is decomposed into a preference score indicating user's interest in the news content and a news bias score inferred from its different bias features. Experiments on two real-world datasets show that our method can effectively improve the performance of news recommendation.

연구 동기 및 목표

• 뉴스 클릭 행동이 제시 방식의 편향(예: 위치, 크기)에 영향을 받는 문제를 다루며, 이는 사용자 관심 추론을 왜곡한다.
• 클릭 행동에 영향을 주는 다중 편향 요인의 공동 영향을 모델링하고 완화하는 방법을 개발한다.
• 편향 인지 주의 메커니즘을 사용해 역학적 클릭을 校정함으로써 사용자 관심 모델링을 향상시킨다.
• 사용자 관심(선호도 점수)과 제시 효과(편향 점수)를 분리하여 탈편향된 추천 모델을 훈련시킨다.
• 편향 상호작용을 명시적으로 모델링하여 클릭 예측 정확도와 추천 성능을 향상시킨다.

제안 방법

• 다양한 편향 특징(예: 위치, 크기)과 그 상호작용을 요소별 곱셈을 사용해 공동 편향 효과를 포괄적으로 모델링하는 편향 표현 모듈(BRM)을 제안한다.
• 콘텐츠 관련성에 대한 콘텐츠 주의와 클릭 영향에 대한 편향 주의를 갖는 이중 주의 메커니즘을 가진 편향 인지 사용자 모델링(BAUM) 모듈을 도입하여, 편향 없는 관심 추론을 가능하게 한다.
• 클릭 점수를 선호도 점수(콘텐츠에 대한 사용자 관심)와 편향 점수(제시 효과)로 분해하는 편향 인지 클릭 예측(BACP) 모듈을 설계하며, 랭킹에는 오직 선호도 점수만 사용한다.
• 클릭된 뉴스에서 사용자 표현을 학습하기 위해 다중 헤드 자기주도 주의 네트워크를 사용하며, 제시에 의한 것이 아닌 콘텐츠에 의한 클릭을 줄이기 위해 편향 인지 주의를 적용한다.
• BRM에서 편향 특징 간의 복잡한 비선형 상호작용을 모델링하기 위해 잔차 연결과 피드포워드 네트워크를 활용한다.
• 클릭 예측에 대한 교차 엔트로피 손실을 사용해 모델을 엔드 투 엔드로 훈련하며, 최종 클릭 점수는 선호도 점수와 편향 점수의 합이 된다.

실험 결과

연구 질문

• RQ1 다양한 편향 요인(예: 위치와 크기)이 뉴스 추천에서 사용자 클릭 행동에 공동으로 영향을 미치는 방식은 어떠한가?
• RQ2 편향 인지 주의 메커니즘이 콘텐츠 관심에 기인한 클릭과 제시 편향에 기인한 클릭을 효과적으로 구분할 수 있는가?
• RQ3 클릭 점수를 선호도 및 편향 성분으로 분해하는 것이 클릭 예측 및 추천 성능 향상에 어느 정도 기여하는가?
• RQ4 편향 특징 간의 상호작용 모델링이 사용자 관심 모델링의 강건성과 정확도에 어떤 영향을 미치는가?

주요 결과

• DebiasRec은 강력한 기준 모델 대비 두 개의 실제 뉴스 데이터셋에서 클릭 예측 정확도와 추천 성능을 크게 향상시켰다.
• 특히 강한 위치 및 크기 편향이 존재하는 상황에서 사용자 선호도를 제시 방식의 편향과 효과적으로 분리함으로써 AUC 및 NDCG 점수가 높아졌다.
• 편향 인지 주의 메커니즘이 높은 위치나 큰 크기의 제시로 영향을 받는 클릭에 낮은 주의 가중치를 할당하여 효과적인 탈편향을 달성했다.
• 시각화 결과, 모델이 사용자 관심에 부합하는 뉴스에 비록 눈에 띄는 위치에 있지 않더라도 높은 선호도 점수를 할당하는 것으로 나타났다.
• BRM에서 요소별 곱셈을 통해 편향 특징 간의 상호작용(예: 위치 × 크기)을 모델링한 결과, 단순 연결 또는 퍼셉트론 기반 융합보다 더 뛰어난 성능을 보였다.
• 사례 연구를 통해 모델이 엔터테인먼트 뉴스를 낮은 위치에 놓여도 사용자 관심을 정확히 식별하며, 순수히 가시성에 기인한 클릭은 낮게 평가하는 것으로 확인되었다.