[論文レビュー] Fair Division Without Disparate Impact

Alexander Peysakhovich, Christian Kroer|arXiv (Cornell University)|Jun 6, 2019

Law, Economics, and Judicial Systems参考文献 36被引用数 5

ひとこと要約

本稿では、保護群にわたる差別の影響を排除することで公平性を確保するための2つの修正メカニズム—等収入からの公平的均衡（EqEEI）および等収入からの競争的均衡（CEEqI）—を提案する。EqEEIは、絵画的でない性向（ envy-freeness）やパレート効率性といった重要なCEEIの性質を損なう代わりに、結果の不平等を低減するが、CEEqIはこれらの性質を保持しつつ、グループ間の平均効用を均等化し、最小限の効率的損失で実現する。

ABSTRACT

We consider the problem of dividing items between individuals in a way that is fair both in the sense of distributional fairness and in the sense of not having disparate impact across protected classes. An important existing mechanism for distributionally fair division is competitive equilibrium from equal incomes (CEEI). Unfortunately, CEEI will not, in general, respect disparate impact constraints. We consider two types of disparate impact measures: requiring that allocations be similar across protected classes and requiring that average utility levels be similar across protected classes. We modify the standard CEEI algorithm in two ways: equitable equilibrium from equal incomes, which removes disparate impact in allocations, and competitive equilibrium from equitable incomes which removes disparate impact in attained utility levels. We show analytically that removing disparate impact in outcomes breaks several of CEEI's desirable properties such as envy, regret, Pareto optimality, and incentive compatibility. By contrast, we can remove disparate impact in attained utility levels without affecting these properties. Finally, we experimentally evaluate the tradeoffs between efficiency, equity, and disparate impact in a recommender-system based market.

研究の動機と目的

• 保護群に不利な影響を及ぼす可能性のある割り当てにおける差別の影響を是正すること。
• 競争的均衡から等収入（CEEI）のコアな性質（例えば、 envy-freeness、パレート効率性、インcentive compatibility）にグループレベルの公平性制約を適用した場合の影響を分析すること。
• 結果の公平性と、それぞれの効用水準の公平性を強制する2つの新しいメカニズム—EqEEIおよびCEEqI—の開発と評価。
• MovieLensデータを用いた実世界のレコメンデーションシステム設定において、効率性、公平性、差別の影響のトレードオフを実験的に評価すること。
• メカニズム設計者に、分配的公平性とグループレベルの公平性の両立を図るための実用的で理論的に妥当なツールを提供すること。

提案手法

• EqEEIは、最大平均差分（MMD）に基づくカーネル二標本検定を用いて、個人の評価を事前処理し、保護群間で割り当て分布が統計的に区別できないようにする。
• EqEEIで得られた修正された評価は、標準的なCEEIアルゴリズムに供給され、結果の不平等が低減された市場均衡割り当てが計算される。
• CEEqIはCEEIフレームワークを修正し、保護群の個人の予算を調整することで、グループ間の平均効用を均等化するが、市場均衡構造を維持する。
• この方法は、競争的均衡の理論的性質を活用して、パレート効率性、後悔なし、 envyなし、およびインcentive compatibility を維持する予算調整戦略を用いる。
• 性能評価には、MovieLensデータから抽出した合成市場が用いられ、後悔、 envy、パレートギャップ、幾何平均ギャップ、効率ギャップといった指標が使用される。
• 理論的分析では、市場抽象化の結果（Kroer et al., 2019）を用いてEqEEIにおける性能損失の上限を導出し、CEEqIがコアなCEEIの性質を保持することを示している。

実験結果

リサーチクエスチョン

• RQ1 CEEIメカニズムを修正することで、保護群にわたる割り当て結果の差別の影響を根絶しつつ、コアな市場均衡性質を損なわずに実現できるか？
• RQ2 公平な分割メカニズムにおける結果の公平性と、基本的な効率性およびインcentive compatibility 性質との間のトレードオフは何か？
• RQ3 パレート効率性、 envyなし、インcentive compatibility を損なわず、効用レベルのグループレベルの公平性を達成できるか？
• RQ4 実世界のデータを用いて評価した場合、提案されたメカニズム—EqEEIおよびCEEqI—は、効率性と公平性の両面でどの程度の性能を示すか？
• RQ5 CEEIに類似したフレームワークにおいて、予算調整を用いてグループ間の平均効用を均等化し、社会的総余剰の損失を最小限に抑えることはどの程度可能か？

主な発見

• EqEEIは、MMDに基づく統計的検定を用いた評価の事前処理により、保護群間で割り当て分布が類似するようにすることで、グループ間の結果の不平等を低減する。
• EqEEIは測定可能な損失を伴う：後悔は10%増加、 envyは8%増加、効率性は6%低下（効率ギャップ = 0.94）し、これはコアなCEEIの性質とのトレードオフを示している。
• CEEqIは、すべての重要なCEEIの性質—パレート効率性、後悔なし、 envyなし、インcentive compatibility—を保持しつつ、グループ間の平均効用を均等化する。
• 25%の効用の不均衡を想定した実験では、CEEqIはわずか2–3%の幾何平均効用の損失でグループレベルの不平等を低減し、最小限の効率的コストであることを示している。
• CEEqIでは、高い不均衡下でも幾何平均ギャップが0.98以上を維持しており、全体の効率性が強く保持されていることを示している。
• 本研究では、効用レベルの公平性（CEEqIによる）を強制することは、結果の公平性（EqEEIによる）を強制するよりも持続可能であることが示されており、後者は望ましいメカニズムの性質を保持している。