[論文レビュー] Equity of Attention: Amortizing Individual Fairness in Rankings

Asia J. Biega, Krishna P. Gummadi+1 more|arXiv (Cornell University)|May 4, 2018

Ethics and Social Impacts of AI参考文献 35被引用数 27

ひとこと要約

本稿は、順位付けられた対象が受ける注目度がその関連性に比例することを保証する公平性の概念、すなわち注目度の公平性を導入する。これは、オンライン最適化フレームワークを用いて複数の順位付けにおいて公平性を均等化することで実現される。問題は整数線形計画問題として定式化され、実世界のデータセットにおいて、順位付けの品質を損なうことなく、個人の公平性が顕著に向上することを示している。

ABSTRACT

Rankings of people and items are at the heart of selection-making, match-making, and recommender systems, ranging from employment sites to sharing economy platforms. As ranking positions influence the amount of attention the ranked subjects receive, biases in rankings can lead to unfair distribution of opportunities and resources, such as jobs or income. This paper proposes new measures and mechanisms to quantify and mitigate unfairness from a bias inherent to all rankings, namely, the position bias, which leads to disproportionately less attention being paid to low-ranked subjects. Our approach differs from recent fair ranking approaches in two important ways. First, existing works measure unfairness at the level of subject groups while our measures capture unfairness at the level of individual subjects, and as such subsume group unfairness. Second, as no single ranking can achieve individual attention fairness, we propose a novel mechanism that achieves amortized fairness, where attention accumulated across a series of rankings is proportional to accumulated relevance. We formulate the challenge of achieving amortized individual fairness subject to constraints on ranking quality as an online optimization problem and show that it can be solved as an integer linear program. Our experimental evaluation reveals that unfair attention distribution in rankings can be substantial, and demonstrates that our method can improve individual fairness while retaining high ranking quality.

研究の動機と目的

• 順位付けにおける位置バイアスの根本的問題に対処すること。位置バイアスは、低い順位の対象に対して注目度が不釣り合いに低下させる。
• グループではなく個人の対象に焦点を当てた公平性指標を提案すること。これはグループレベルの公平性を包含する。
• 複数の順位付けにわたる時間的経過の中で公平性を達成するメカニズムを構築すること。これにより、複数の順位付けにおいて注目度が関連性に比例することを保証する。
• 特に職業やシェアリングエコノミーのプラットフォームなど、生活に影響を及える分野において、順位付けの品質を維持したまま公平性を向上させること。
• 公平性と順位付けの品質のトレードオフをオンライン最適化問題として形式化すること。

提案手法

• 各対象が受ける注目度がその関連性に比例することを要件とする、新たな公平性指標を導入する。
• 公平性を一回の順位付けではなく、複数の順位付けにわたる時間的経過の中で達成する、均等化された公平性を提案する。
• 制約付き条件下で公平性と順位付けの品質のバランスを図るために、オンライン整数線形計画問題として問題をモデル化する。
• 関連性スコアを適切な注目度の代理として用い、関連性と価値の間に比例関係があると仮定する。
• 注目度の分配を均等化するために、複数の順位付けシーケンスにわたる順位を再調整する再順位付けメカニズムを適用する。
• 高品質な順位付けを優先しつつ公平性を確保する制約付き最適化フレームワークを採用する。

実験結果

リサーチクエスチョン

• RQ1 グループレベルではなく個人レベルでの順位付けの公平性は、どのように測定できるか？
• RQ2 位置バイアスが低い順位のアイテムに inherently 不利である場合、順位付けで公平性を達成できるか？
• RQ3 動的環境下で個人の公平性と順位付けの品質をバランスさせる最適化フレームワークは何か？
• RQ4 複数の順位付けにわたる均等化された公平性は、静的順位付けと比較して、注目度の不平等をどれほど軽減できるか？
• RQ5 順位付けの品質を著しく低下させることなく、公平性をどの程度向上できるか？

主な発見

• 実世界の順位付けにおける注目度の分配は、関連性に見合ったものとは大きくずれており、低い順位の対象がその関連性に比して著しく少ない注目度を受け取っている。
• 提案手法は、標準的な情報検索指標で測定された順位付けの品質を維持したまま、個人の公平性を顕著に向上させた。
• 複数の順位付けにわたる再順位付けによる均等化された公平性は、関連性に比例する注目度の分配を効果的に実現し、長期的な露出格差を低減した。
• 関連性スコアがすべての対象で等しい場合でも、この手法は公平な注目度の分配を保証する。
• 最適化フレームワークは、公平性と品質のトレードオフをうまく制御し、実世界のデータセットにおいて実用的な妥当性を示した。
• 結果から、順位付けの性能を著しく損なわせることなく、公平性の向上が可能であることが示された。これは、実際のプラットフォームへの導入を支持する。