[論文レビュー] Beyond Parity: Fairness Objectives for Collaborative Filtering

Sirui Yao, Bert Huang|arXiv (Cornell University)|May 24, 2017

Ethics and Social Impacts of AI参考文献 16被引用数 154

ひとこと要約

本論文は協調フィルタリングの4つの新しい公正性指標を定義し、それらを行列因子分解の正則化項として統合し、合成データおよび実データでこれらの指標を最小化する際に精度の損失を小さく抑えられること、そして不公平性タイプ間のトレードオフを示す。

ABSTRACT

We study fairness in collaborative-filtering recommender systems, which are sensitive to discrimination that exists in historical data. Biased data can lead collaborative-filtering methods to make unfair predictions for users from minority groups. We identify the insufficiency of existing fairness metrics and propose four new metrics that address different forms of unfairness. These fairness metrics can be optimized by adding fairness terms to the learning objective. Experiments on synthetic and real data show that our new metrics can better measure fairness than the baseline, and that the fairness objectives effectively help reduce unfairness.

研究の動機と目的

• 人口統計的パリティを超える協調フィルタリング型おすすめシステムにおける不公平性を動機づけ、形式化する。
• 予測のさまざまな形の不公平を捉える4つの異なる公正性指標を導入する。
• 公正性ペナルティを組み込んだ行列因子分解を最適化する学習目的を提案する。
• これらの公正性目的が予測精度やさまざまな不公平指標に合成データと実データでどう影響するかを評価する。

提案手法

• r_{ij} ≈ p_i^T q_j + u_i + v_j のようにバイアス項を含む協調フィルタリングの行列因子分解を用いる。
• 確率ブロックモデルを用いて人口不均衡と観測バイアスという2つのデータ不均衡の形を定義する。
• value unfairness、absolute unfairness、underestimation unfairness、overestimation unfairness の4つの不公平指標を導入する。加えて非パリティのベースライン U_par。
• 精度と公正性のトレードオフを最適化するため、滑らかな公正性ペナルティ U（Huber様似）を学習目的に付与する。
• 公正性ペナルティを用いて訓練するために勾配ベースの最適化（Adam）を用い、合成データとMovielensデータで評価する。

実験結果

リサーチクエスチョン

• RQ1 データの過少表現（人口不均衡と観測バイアス）が協調フィルタリングにおける公正性にどう影響するか？
• RQ2 新しい公正性指標は推薦システムにおける人口 parity 以外の不公平の形をよりよく捉えられるのか？
• RQ3 公正性を強化した学習目的は、予測精度の低下を抑えつつ指標間の不公平性を低減できるのか？
• RQ4 実務的には、異なる公正性目的は互いにどのように相互作用し、トレードオフするのか？

主な発見

• 不公平性は観測された評価が真の嗜好を反映していても、過小表現によって生じ得る。
• 提案された4つの指標は異なる不公平性の側面を測定し、データバイアスに対して異なる反応を示す。
• いずれかの公正性指標を最適化すると他の不公平性タイプも一般には低減するが、いくつかのトレードオフが生じる。
• 公正性を強化した行列因子分解は合成データと実データの両方で再構成誤差の有意な増加を伴わずに不公平性を低減できる場合があり、特に value fairness は過小評価および過大評価をも低減する。
• 非パリティは他の不公平性指標を向上させない、または改善しない傾向があり、推奨における人口 parity のような制約の限界を浮き彫りにしている。
• 過大評価と過小評価の両方をペナルティする結合目的は実践的なアプローチを提供するが、全指標において単一の目的が優勢とはいえない。