[論文レビュー] Investigating Potential Factors Associated with Gender Discrimination in Collaborative Recommender Systems

Masoud Mansoury, Himan Abdollahpouri+4 more|arXiv (Cornell University)|Feb 18, 2020

Recommender Systems and Techniques参考文献 9被引用数 7

ひとこと要約

本研究では、4つのアルゴリズムを用いて、プロファイルの異常度、レーティングのエントロピー、プロファイルサイズを分析することで、共同推薦システムにおける性別による公平性の不均衡を調査している。結果として、これらの要因を制御しても、女性は男性よりも常に精度の低い推薦を受けることが判明し、SVD++が最も公平性の高いアルゴリズムであることが示された。

ABSTRACT

The proliferation of personalized recommendation technologies has raised concerns about discrepancies in their recommendation performance across different genders, age groups, and racial or ethnic populations. This varying degree of performance could impact users' trust in the system and may pose legal and ethical issues in domains where fairness and equity are critical concerns, like job recommendation. In this paper, we investigate several potential factors that could be associated with discriminatory performance of a recommendation algorithm for women versus men. We specifically study several characteristics of user profiles and analyze their possible associations with disparate behavior of the system towards different genders. These characteristics include the anomaly in rating behavior, the entropy of users' profiles, and the users' profile size. Our experimental results on a public dataset using four recommendation algorithms show that, based on all the three mentioned factors, women get less accurate recommendations than men indicating an unfair nature of recommendation algorithms across genders.

研究の動機と目的

• プロファイルの異常度、エントロピー、プロファイルサイズが、共同推薦システムにおける性別による不公平性に寄与するかどうかを調査すること。
• 男性と女性の間で推薦精度の差が、これらの3つのユーザープロファイル特徴によって説明可能かどうかを特定すること。
• 男性および女性のユーザーグループにわたる4つの推薦アルゴリズム（UserKNN、ItemKNN、ListRankMF、SVD++）の公平性を評価すること。
• どのアルゴリズム的手法が性別によるパフォーマンス格差を軽減または悪化させるかを同定すること。

提案手法

• ユーザのレーティングがアイテムの平均レーティングからどれほど逸脱しているかを、アイテムの平均レーティングからの絶対偏差として測定し、レーティングしたアイテム数で正規化することでプロファイルの異常度を測定した。
• ユーザのレーティング分布のシャノンエントロピーとしてレーティングエントロピーを計算し、好みの情報多様性を評価した。
• 平均プロファイルサイズ（レーティングしたアイテム数）をユーザの活動度およびデータの可用性の代理指標として使用した。
• 公共データセットを用いて、4つの共同フィルタリングアルゴリズム（UserKNN、ItemKNN、ListRankMF、SVD++）を評価し、公平性を比較した。
• 推薦の公平性を、期待されるレーティング精度からのずれ（誤差補正度）および精度（上位N件の推薦内での関連アイテムの割合）を用いて定量化した。
• 20人の男性および女性ユーザーグループごとに、プロファイル特徴と公平性指標との相関を、相関係数と可視化を用いて分析した。

実験結果

リサーチクエスチョン

• RQ1 異常レーティング行動の度合いが、男性と女性ユーザの間で推薦精度の格差を説明できるか？
• RQ2 ユーザのレーティングプロファイルのエントロピーが、性別を越えて推薦の公平性とどの程度相関するか？
• RQ3 ユーザープロファイルサイズと、男性と女性の両者における推薦の公平性との間に有意な関係があるか？
• RQ4 どの推薦アルゴリズムが男性および女性ユーザーグループにわたって最もバランスの取れたパフォーマンスを示すか？

主な発見

• 女性は、プロファイルの異常度、エントロピー、プロファイルサイズを制御しても、4つのアルゴリズムすべてにおいて男性よりも一貫して精度の低い推薦を受けた。
• プロファイルの異常度は、男性ユーザーユーザーにおいてのみ誤差補正度と正の相関を示した。これは、性別による公平性格差を説明する要因ではないことを示している。
• レーティングエントロピーは、両性別で精度（precision）と強い正の相関（約0.9）を示したが、エントロピーが高くなるほど、男性と女性の間の精度格差が拡大した。
• プロファイルサイズは、誤差補正度や精度と有意な相関を示さず、このデータセットでは公平性格差の原因とはならないと考えられる。
• SVD++は、男性および女性ユーザーユーザーの両方において最小限の誤差補正度と同等の精度を示し、最もバランスの取れたパフォーマンスを示した。
• 近隣ベースのアルゴリズム（UserKNN、ItemKNN）は、行列分解ベースの手法と比較して、特に精度および誤差補正度において強い性別による公平性格差を示した。