[論文レビュー] DebiasedRec: Bias-aware User Modeling and Click Prediction for Personalized News Recommendation

Jingwei Yi, Fangzhao Wu+4 more|arXiv (Cornell University)|Apr 15, 2021

Recommender Systems and Techniques参考文献 43被引用数 8

ひとこと要約

DebiasRecは、クリック行動における位置バイアスとサイズバイアスをモデル化することで、ユーザーの関心推定とクリック予測を向上させるバイアスに配慮したニュース推薦フレームワークを提案する。クリックスコアを好みとバイアスの成分に分解し、アテンションを用いてバイアスの影響をフィルタリングすることで、実世界のデータセットにおいて優れた推薦性能を達成した。

ABSTRACT

News recommendation is critical for personalized news access. Existing news recommendation methods usually infer users' personal interest based on their historical clicked news, and train the news recommendation models by predicting future news clicks. A core assumption behind these methods is that news click behaviors can indicate user interest. However, in practical scenarios, beyond the relevance between user interest and news content, the news click behaviors may also be affected by other factors, such as the bias of news presentation in the online platform. For example, news with higher positions and larger sizes are usually more likely to be clicked. The bias of clicked news may bring noises to user interest modeling and model training, which may hurt the performance of the news recommendation model. In this paper, we propose a bias-aware personalized news recommendation method named DebiasRec, which can handle the bias information for more accurate user interest inference and model training. The core of our method includes a bias representation module, a bias-aware user modeling module, and a bias-aware click prediction module. The bias representation module is used to model different kinds of news bias and their interactions to capture their joint effect on click behaviors. The bias-aware user modeling module aims to infer users' debiased interest from the clicked news articles by using their bias information to calibrate the interest model. The bias-aware click prediction module is used to train a debiased news recommendation model from the biased click behaviors, where the click score is decomposed into a preference score indicating user's interest in the news content and a news bias score inferred from its different bias features. Experiments on two real-world datasets show that our method can effectively improve the performance of news recommendation.

研究の動機と目的

• ニュースのクリック行動が提示バイアス（例：位置、サイズ）の影響を受ける問題に対処する。これにより、ユーザーの関心推定が歪められる。
• 複数のバイアス要因がクリック行動に及ぼす影響を統合的にモデル化・緩和する手法を開発する。
• バイアスに配慮したアテンション機構を用いて、履歴クリックを補正することで、ユーザー関心モデリングを改善する。
• 好みスコア（ユーザーの関心）とバイアススコア（提示効果）を分離することで、バイアスのない推薦モデルを訓練する。
• バイアスの相互作用を明示的にモデル化することで、クリック予測の精度と推薦性能を向上させる。

提案手法

• 複数のバイアス特徴（例：位置、サイズ）とその相互作用を、要素ごとの乗算を用いて統合的に表現するバイアス表現モジュール（BRM）を提案する。
• コンテンツの関連性を評価するコンテンツアテンションと、クリックへの影響を評価するバイアスアテンションを備えた二重アテンション機構を有するバイアスに配慮したユーザーモデリング（BAUM）モジュールを導入する。これにより、バイアスのない関心推定が可能になる。
• クリックスコアを好みスコア（コンテンツに対するユーザーの関心）とバイアススコア（提示効果）に分解するバイアスに配慮したクリック予測（BACP）モジュールを設計し、ランク付けにはのみ好みスコアを用いる。
• クリックされたニュースからユーザー表現を学ぶためにマルチヘッド自己アテンションネットワークを用い、バイアスに配慮したアテンションにより、提示による影響の強いクリックを低減する。
• BRMにおいて、バイアス特徴間の複雑な非線形相互作用をモデル化するために、リプルサル接続とフィードフォワードネットワークを採用する。
• クリック予測のクロスエントロピー損失を用いて、エンドツーエンドでモデルを訓練し、最終的なクリックスコアは好みスコアとバイアススコアの和として得る。

実験結果

リサーチクエスチョン

• RQ1 位置やサイズなどの複数のバイアス要因が、ニュース推薦におけるユーザーのクリック行動にどのように統合的に影響を与えるか？
• RQ2 バイアスに配慮したアテンション機構は、コンテンツ関心によるクリックと提示バイアスによるクリックを効果的に区別できるか？
• RQ3 クリックスコアを好みとバイアスの成分に分解することで、クリック予測と推薦性能がどの程度向上するか？
• RQ4 バイアス特徴の相互作用モデリングは、ユーザー関心モデリングのロバスト性と精度にどのように影響を与えるか？

主な発見

• DebiasRecは、強力なベースラインと比較して、2つの実世界のニュースデータセットにおいて、クリック予測精度と推薦性能を顕著に向上させた。
• 特に位置バイアスやサイズバイアスが強い状況でも、ユーザーの好みと提示バイアスを効果的に分離することで、AUCおよびNDCGスコアが向上した。
• バイアスに配慮したアテンション機構により、高位置や大サイズの提示によって影響を受けるクリックに対して、低いアテンション重みが割り当てられており、効果的なバイアス除去が確認された。
• 可視化結果から、モデルは目立たない位置に表示されていても、ユーザーの関心に合致するニュースに対して高い好みスコアを割り当てていることが示された。
• BRMにおける要素ごとの乗算によるバイアス特徴の相互作用モデリング（例：位置×サイズ）は、単純な連結やパーセプトロンベースの統合よりも優れた性能を発揮した。
• 事例研究により、モデルはエンタメニュースが低い位置に表示されていても、ユーザーの関心を正しく特定しており、可視性によるクリックに過剰に重みを置かないことが確認された。