[论文解读] DebiasedRec: Bias-aware User Modeling and Click Prediction for Personalized News Recommendation

Jingwei Yi, Fangzhao Wu+4 more|arXiv (Cornell University)|Apr 15, 2021

Recommender Systems and Techniques参考文献 43被引用 8

一句话总结

DebiasRec 提出了一种偏见感知的新闻推荐框架，通过建模点击行为中的位置和大小偏见，改善用户兴趣推断与点击预测。通过将点击得分分解为偏好与偏见成分，并利用注意力机制过滤受偏见影响的点击，该方法在真实世界数据集上实现了更优的推荐性能。

ABSTRACT

News recommendation is critical for personalized news access. Existing news recommendation methods usually infer users' personal interest based on their historical clicked news, and train the news recommendation models by predicting future news clicks. A core assumption behind these methods is that news click behaviors can indicate user interest. However, in practical scenarios, beyond the relevance between user interest and news content, the news click behaviors may also be affected by other factors, such as the bias of news presentation in the online platform. For example, news with higher positions and larger sizes are usually more likely to be clicked. The bias of clicked news may bring noises to user interest modeling and model training, which may hurt the performance of the news recommendation model. In this paper, we propose a bias-aware personalized news recommendation method named DebiasRec, which can handle the bias information for more accurate user interest inference and model training. The core of our method includes a bias representation module, a bias-aware user modeling module, and a bias-aware click prediction module. The bias representation module is used to model different kinds of news bias and their interactions to capture their joint effect on click behaviors. The bias-aware user modeling module aims to infer users' debiased interest from the clicked news articles by using their bias information to calibrate the interest model. The bias-aware click prediction module is used to train a debiased news recommendation model from the biased click behaviors, where the click score is decomposed into a preference score indicating user's interest in the news content and a news bias score inferred from its different bias features. Experiments on two real-world datasets show that our method can effectively improve the performance of news recommendation.

研究动机与目标

• 解决新闻点击行为受呈现偏见（如位置、大小）影响的问题，这些偏见会扭曲用户兴趣推断。
• 开发一种方法，以建模并缓解多种偏见因素对点击行为的联合影响。
• 通过使用偏见感知注意力机制校准历史点击，改进用户兴趣建模。
• 通过将偏好得分（用户兴趣）与偏见得分（呈现效应）分离，训练去偏的推荐模型。
• 通过显式建模偏见交互，提升点击预测准确性和推荐性能。

提出的方法

• 提出偏见表征模块（BRM），通过逐元素相乘的方式联合捕捉多种偏见特征（如位置、大小）及其交互作用，实现对联合偏见效应的建模。
• 引入偏见感知用户建模（BAUM）模块，采用双注意力机制：内容注意力用于衡量新闻相关性，偏见注意力用于衡量点击影响，实现去偏的兴趣推断。
• 设计偏见感知点击预测（BACP）模块，将点击得分分解为偏好得分（用户对内容的兴趣）与偏见得分（呈现效应），仅使用偏好得分进行排序。
• 使用多头自注意力网络从点击过的新闻中学习用户表征，结合偏见感知注意力机制，降低由呈现而非内容驱动的点击的影响。
• 在 BRM 中使用残差连接与前馈网络，以建模偏见特征之间复杂的非线性交互。
• 端到端训练模型，采用交叉熵损失进行点击预测，最终点击得分由偏好得分与偏见得分之和构成。

实验结果

研究问题

• RQ1 在新闻推荐中，多个偏见因素（如位置与大小）如何联合影响用户点击行为？
• RQ2 偏见感知注意力机制能否有效区分由内容兴趣驱动的点击与由呈现偏见驱动的点击？
• RQ3 将点击得分分解为偏好与偏见成分，在多大程度上能提升点击预测与推荐性能？
• RQ4 对偏见特征的交互建模如何影响用户兴趣建模的鲁棒性与准确性？

主要发现

• 与强基线相比，DebiasRec 在两个真实世界新闻数据集上显著提升了点击预测准确率与推荐性能。
• 通过有效分离用户偏好与呈现偏见，模型在存在强烈位置与大小偏见的情境下，实现了更高的 AUC 与 NDCG 分数。
• 偏见感知注意力机制成功为受高位置或大尺寸呈现影响的点击分配更低的注意力权重，表明去偏效果显著。
• 可视化结果表明，即使新闻位于不显眼位置，模型仍能为其分配更高的偏好得分，表明其准确识别用户兴趣。
• 通过 BRM 中的逐元素相乘方式建模偏见特征交互（如位置 × 大小），性能优于简单的拼接或感知机融合方法。
• 案例研究证实，即使娱乐类新闻被置于较低位置，模型仍能正确识别用户对其的兴趣，同时降低完全由可见性驱动的点击权重。