[論文レビュー] Exploring and Mitigating Gender Bias in Recommender Systems with Explicit Feedback

Shrikant Saxena, Shweta Jain|arXiv (Cornell University)|Dec 5, 2021

Recommender Systems and Techniques被引用数 4

ひとこと要約

本稿では、ユーザー固有のバイアス推定とスケーリングを用いて、ユーザーのレーティングをデバイアス化することで、明示的フィードバックを用いたレコメンデーションシステムにおけるジェンダー・バイアスを定量化および軽減するモデルを提案する。デバイアス化されたレーティングは、UserKNN、ItemKNN、ALS、SVDを含む複数のアルゴリズムにおいて、顕著なバイアス低減（最大40％）を達成しつつ、精度の損失を最小限に抑える。本手法はモデルに依存せず、不偏推定の理論的根拠を持つ。

ABSTRACT

Recommender systems are indispensable because they influence our day-to-day behavior and decisions by giving us personalized suggestions. Services like Kindle, Youtube, and Netflix depend heavily on the performance of their recommender systems to ensure that their users have a good experience and to increase revenues. Despite their popularity, it has been shown that recommender systems reproduce and amplify the bias present in the real world. The resulting feedback creates a self-perpetuating loop that deteriorates the user experience and results in homogenizing recommendations over time. Further, biased recommendations can also reinforce stereotypes based on gender or ethnicity, thus reinforcing the filter bubbles that we live in. In this paper, we address the problem of gender bias in recommender systems with explicit feedback. We propose a model to quantify the gender bias present in book rating datasets and in the recommendations produced by the recommender systems. Our main contribution is to provide a principled approach to mitigate the bias being produced in the recommendations. We theoretically show that the proposed approach provides unbiased recommendations despite biased data. Through empirical evaluation on publicly available book rating datasets, we further show that the proposed model can significantly reduce bias without significant impact on accuracy. Our method is model agnostic and can be applied to any recommender system. To demonstrate the performance of our model, we present the results on four recommender algorithms, two from the K-nearest neighbors family, UserKNN and ItemKNN, and the other two from the matrix factorization family, Alternating least square and Singular value decomposition.

研究の動機と目的

• 本稿の目的は、本のレーティングデータセットおよび明示的フィードバックから得られるレコメンデーションにおけるジェンダー・バイアスを定量化することである。
• 本稿の目的は、偏ったユーザーのレーティングに起因する、バイアスの自己強化的サイクルを是正することである。
• 本稿の目的は、偏ったデータで学習された場合でも、不偏なレコメンデーションを生成できるモデルに依存しない手法を開発することである。
• 本稿の目的は、あらゆるレコメンデーションアルゴリズムに組み込む前に、ユーザーのレーティングをデバイアス化することで、公平なレコメンデーションを実現することである。
• 本稿の目的は、多様なアルゴリズムにおいて本手法の有効性を評価するとともに、レコメンデーション精度を維持することである。

提案手法

• 本モデルは、各ユーザーが特定の本に対して与えたレーティングと、同様の本に対して同様のユーザーが与えた平均レーティングを比較することで、ユーザーのジェンダーに基づくバイアスを推定する。
• 本手法は、ユーザー固有のバイアススコアを用いて個々のレーティングにデバイアス変換を施し、真の好みの不偏推定量となるデバイアス化されたレーティングを生成する。
• 生成されたデバイアス化されたレーティングは、任意の標準的なレコメンデーションアルゴリズムへの入力として使用され、下流のレコメンデーションにおける公平性を保証する。
• 本手法はハイブリッドであり、前処理（レーティングのデバイアス化）と後処理（公平なレコメンデーション生成）の段階を含む。
• 本手法は、複数のデータセットおよびアルゴリズムにおいてバイアス低減を検証するために、統計的有意性検定（z検定）を用いる。
• 本手法はモデルに依存せず、任意の協調フィルタリングまたは行列分解に基づくレコメンデーションシステムに適用可能である。

実験結果

リサーチクエスチョン

• RQ1 どのようにして、本のレコメンデーションシステムにおけるユーザーの明示的フィードバックからのジェンダー・バイアスを定量化できるか？
• RQ2 ユーザー固有のバイアスはどの程度推定され、是正可能か？ その結果、より公平なレコメンデーションが得られるか？
• RQ3 ユーザーのレーティングをデバイアス化することで、精度を損なうことなくレコメンデーションのバイアスが顕著に低減されるか？
• RQ4 UserKNN、ItemKNN、ALS、SVDなどの異なるレコメンデーションアルゴリズムにおいて、デバイアス化モデルの性能はどのように変化するか？
• RQ5 データセットのサイズおよびユーザー／アイテムの多様性は、バイアス推定および是正の精度にどのような影響を及えるか？

主な発見

• 提案手法は、レコメンデーションにおけるジェンダー・バイアスを最大40％まで低減した。特に、UserKNNベースのシステムで最も顕著な低減が観察された。
• AZデータセットでは、ユーザーおよびアイテムのベースが大きいことから、バイアススコア推定がより正確に行えるため、バイアス低減が顕著に顕われた。
• UserKNNを用いた場合、10％の精度損失を伴いながらも、バイアスをほぼ40％まで低減できた。これは、公平性と性能の間で良好なトレードオフが達成されたことを示している。
• 統計的有意性検定により、すべてのアルゴリズムおよびデータセットにおいてバイアス低減が極めて有意である（p < 10^-5）ことが確認された。
• 本手法はUserKNNよりもItemKNNでやや劣ったが、これはUserKNNが使用するユーザーベースの類似性メカニズムと整合性が高いために、より自然に機能したためである。
• BXデータセットはより小さいため、精度損失が顕著に増加した。これは、より大きなデータセットがバイアス推定および是正の信頼性を向上させることを裏付けている。