[論文レビュー] Bias Disparity in Recommendation Systems

Virginia Tsintzou, Evaggelia Pitoura+1 more|arXiv (Cornell University)|Nov 4, 2018

Recommender Systems and Techniques参考文献 8被引用数 22

ひとこと要約

本稿は、推薦システムにおけるバイアス格差の概念を導入し、アルゴリズム的推薦がアイテムカテゴリの既存のユーザー集団の好みを強化または歪めることを示している。合成データおよび実世界のデータ（MovieLens 1M）を用いて、協調フィルタリングが性別に基づくジャンル好みを悪化させることを実証し、推薦のユーティリティ損失を最小限に抑えながらバイアス格差を解消するためのグリーディ再順序付けアルゴリズム（GULM）を提案。反復的推薦サイクルにおける長期的バイアス強化を顕著に低減している。

ABSTRACT

Recommender systems have been applied successfully in a number of different domains, such as, entertainment, commerce, and employment. Their success lies in their ability to exploit the collective behavior of users in order to deliver highly targeted, personalized recommendations. Given that recommenders learn from user preferences, they incorporate different biases that users exhibit in the input data. More importantly, there are cases where recommenders may amplify such biases, leading to the phenomenon of bias disparity. In this short paper, we present a preliminary experimental study on synthetic data, where we investigate different conditions under which a recommender exhibits bias disparity, and the long-term effect of recommendations on data bias. We also consider a simple re-ranking algorithm for reducing bias disparity, and present some observations for data disparity on real data.

研究の動機と目的

• 推薦システムにおけるバイアス格差の定義と形式化、すなわち入力バイアスと出力バイアスの違いを明確にすること。
• 合成データを用いて、協調フィルタリングアルゴリズムにおいてバイアス格差がどのような条件下で生じるかを調査すること。
• データバイアスの長期的影響、特にグループの不均衡が存在する状況での反復的推薦の影響を分析すること。
• 性別およびジャンル属性を有するMovieLens 1Mデータセットを用いて、実世界のデータにおけるバイアス格差を評価すること。
• バイアス格差を低減しつつ推薦のユーティリティを保持するpost-processing再順序付けアルゴリズム（GULM）の設計と評価を行うこと。

提案手法

• 本稿では、グループ $ G $ がカテゴリ $ C $ から選択した割合を入力好み比 $ PR_S(G,C) $ として定義し、これを全カテゴリの人気度に対する比としてバイアス $ B_S(G,C) $ を定義する。
• 出力バイアスは推薦行列 $ R $ から同様に計算され、入力バイアスと出力バイアスの差がバイアス格差として測定される。
• 過剰に代表されているカテゴリの低ユーティリティ推薦と、不足しているカテゴリの高ユーティリティ推薦を入れ替えることで、ユーティリティ損失を最小限に抑えるグリーディ再順序付けアルゴリズム（GULM）を提案する。
• アルゴリズムはユーザーごとに動作し、バイアスのあるカテゴリでランクが最も低いアイテムと、推薦リストに含まれない最高ランクのアイテムをペアリングすることで、ユーティリティの低下を最小限に抑える。
• 反復的推薦アルゴリズムの適用をシミュレートし、受容確率をユーティリティに依存させるようにして、長期的なバイアスの進化を分析する。
• 実験は、好み比やグループの不均衡を変化させた合成データを用いてバイアス格差を調査し、性別および映画ジャンル属性を有する実際のMovieLens 1Mデータを用いて実施する。

実験結果

リサーチクエスチョン

• RQ1 協調フィルタリング推薦システムは、入力好みと出力推薦の間でどのような条件下でバイアス格差を示すか？
• RQ2 推薦アルゴリズムの反復的適用は、データバイアスの長期的進化にどのように影響するか？
• RQ3 post-processing再順序付けアルゴリズムは、推薦のユーティリティを著しく低下させることなく、どれほどバイアス格差を低減できるか？
• RQ4 グループの不均衡は、実世界の推薦データにおけるバイアス格差の発生と持続性にどのように影響するか？
• RQ5 ユーティリティに配慮した推薦受容が、反復的推薦サイクルにおけるバイアスの安定性と進化に与える影響は何か？

主な発見

• MovieLens 1Mデータセットにおいて、男性はアクション映画に対して1.39の入力バイアスを示すが、推薦では1.67に増加しており、顕著なバイアス格差が確認された。
• 女性はロマンス映画に対して0.58の入力バイアスを示すが、出力バイアスは0.28に低下しており、推薦が女性の好みを低く評価している可能性があることが示された。
• 男性・女性ユーザーのグループをバランスさせても、バイアス格差は依然として残っており、これはグループサイズの不均衡によるものではないことを示している。
• GULM再順序付けアルゴリズムは、バイアス格差をほぼゼロにまで低減しつつ、最小限のユーティリティ損失をもたらしたことが、実験的評価で確認された。
• 再順序付け後も、反復的推薦サイクルにおいてバイアスは安定しており、好み比が高い場合にわずかに増加するにとどまり、フィードバックループに対して頑健であることが示された。
• 本研究は、バイアス格差が存在することは明らかであるが、推薦品質を維持するユーティリティに配慮したグリーディ再順序付け戦略を用いることで、体系的に是正可能であることを示した。