[論文レビュー] Causal Conceptions of Fairness and their Consequences

Hamed Nilforoshan, Johann Gaebler+2 more|arXiv (Cornell University)|Jul 12, 2022

Ethics and Social Impacts of AI被引用数 8

ひとこと要約

この論文は、アルゴリズム意思決定における公平性の因果的解釈を分析し、それらを2つの体系に分類する：反事後的差別の制約を課すものと、保護される属性の影響を制限するものである。自然な効用関数の下で、公平性制約はほとんど常に強くパレート効率でない政策を生じることを示している—つまり、公平性を損なわずにすべての関係者にとってより良い結果が達成可能である—これにより、現在の因果的公平性定義の形式的限界が明らかになる。

ABSTRACT

Recent work highlights the role of causality in designing equitable decision-making algorithms. It is not immediately clear, however, how existing causal conceptions of fairness relate to one another, or what the consequences are of using these definitions as design principles. Here, we first assemble and categorize popular causal definitions of algorithmic fairness into two broad families: (1) those that constrain the effects of decisions on counterfactual disparities; and (2) those that constrain the effects of legally protected characteristics, like race and gender, on decisions. We then show, analytically and empirically, that both families of definitions \emph{almost always} -- in a measure theoretic sense -- result in strongly Pareto dominated decision policies, meaning there is an alternative, unconstrained policy favored by every stakeholder with preferences drawn from a large, natural class. For example, in the case of college admissions decisions, policies constrained to satisfy causal fairness definitions would be disfavored by every stakeholder with neutral or positive preferences for both academic preparedness and diversity. Indeed, under a prominent definition of causal fairness, we prove the resulting policies require admitting all students with the same probability, regardless of academic qualifications or group membership. Our results highlight formal limitations and potential adverse consequences of common mathematical notions of causal fairness.

研究の動機と目的

• アルゴリズム的意思決定における異なる因果的公平性概念の関係を明確化すること。
• 因果的公平性定義を設計原則として用いることの現実世界における結果を検討すること。
• ステークホルダーの自然な好みの下で、公平性制約が効率的または非効率的な意思決定政策をもたらすかどうかを調査すること。
• 公平性制約付き政策が、公平性が因果的に定義された場合でも、しばしば強くパレート効率でないことを形式的に証明すること。

提案手法

• 因果的公平性定義を2つの体系に分類する：(1) 決定が反事後的差別に与える影響を制約するもの、および (2) 保護される属性が意思決定に与える影響を制限するもの。
• 無限次元の政策空間におけるパレート効率でない政策の出現頻度を分析するために測度論的頻度理論を用いる。
• 理論的分析と実証的検証を組み合わせ、さまざまな効用関数の下で制約付きおよび非制約付き意思決定政策を比較する。
• ベータ分布の理論と条件付き期待値を用いて、公平性基準を満たすしきい値政策が特定の分布的仮定の下でパレート効率でないことを証明する。
• 切断されたベータ期待値の偏微分を用いて、反事後的予測同一性がパレート効率と矛盾することになる条件を導出する。
• 代表的な因果的公平性定義の下で、唯一の実行可能な政策は資格やグループメンバーシップに関係なく、すべての受験者に同じ確率で入学を許可することであることを証明する。

実験結果

リサーチクエスチョン

• RQ1 異なる因果的公平性概念は、アルゴリズム的意思決定においてどのように相互に関係しているか？
• RQ2 意思決定政策に因果的公平性制約を強制することの現実世界における結果は何か？
• RQ3 ステークホルダーがパフォーマンスと多様性の両方を重視する場合、公平性制約付き政策はパレート効率的であることができるか？
• RQ4 どのような条件下で因果的公平性定義が強くパレート効率でない政策をもたらすのか？
• RQ5 自然な効用関数の下で、因果的公平性と最適意思決定の間に根本的な不適合性があるのか？

主な発見

• 因果的公平性制約は、ほとんど常に強くパレート効率でない意思決定政策をもたらす。これは、公平性を損なわずすべての関係者にとってより良い結果が達成可能であることを意味する。
• 大学進学の文脈では、公平性制約付き政策は、非制約付き政策と比較して、学位取得率と学生の多様性の両方を低下させる。
• 反事後的予測同一性の下では、唯一の実行可能な政策は、学術的資格やグループメンバーシップに関係なく、すべての応募者に同じ確率で入学を許可することである。
• 理論的分析により、保護される属性の分布が特定のパrametersを持つベータ分布に従う場合、反事後的予測同一性を満たすしきい値政策は、パレート効率でないことが証明される。
• 測度論的道具を用いてパレート効率でない政策の出現頻度を確立し、このような政策はまれではなく、自然な仮定の下ではむしろ一般的であることが示された。
• 公平性が因果的に定義されたとしても、その結果得られる政策はステークホルダーの効用を最大化できず、実用的根拠を損なう。