[論文レビュー] Bounding and Approximating Intersectional Fairness through Marginal Fairness

Mathieu Molina, Patrick Loiseau|arXiv (Cornell University)|Jun 12, 2022

Ethics and Social Impacts of AI被引用数 4

ひとこと要約

本稿では、マージナル公平性指標を用いて交差的公平性を境界付けかつ近似する統計的フレームワークを提案する。保護属性を確率的変数としてモデル化することで、マージナル分布と依存度測度を用いて交差的不平等の高確率境界を導出し、統計的独立性に基づいて属性をグループ化するヒューリスティックを導入した。実データおよび合成データ上で検証された。

ABSTRACT

Discrimination in machine learning often arises along multiple dimensions (a.k.a. protected attributes); it is then desirable to ensure \emph{intersectional fairness} -- i.e., that no subgroup is discriminated against. It is known that ensuring \emph{marginal fairness} for every dimension independently is not sufficient in general. Due to the exponential number of subgroups, however, directly measuring intersectional fairness from data is impossible. In this paper, our primary goal is to understand in detail the relationship between marginal and intersectional fairness through statistical analysis. We first identify a set of sufficient conditions under which an exact relationship can be obtained. Then, we prove bounds (easily computable through marginal fairness and other meaningful statistical quantities) in high-probability on intersectional fairness in the general case. Beyond their descriptive value, we show that these theoretical bounds can be leveraged to derive a heuristic improving the approximation and bounds of intersectional fairness by choosing, in a relevant manner, protected attributes for which we describe intersectional subgroups. Finally, we test the performance of our approximations and bounds on real and synthetic data-sets.

研究の動機と目的

• 複数の保護属性が存在する状況において、マージナル公平性と交差的公平性の関係を理解すること。
• マージナル公平性と統計的依存度測度のみを用いて、計算可能で高確率の交差的不平等の境界を導出すること。
• 保護属性のグループ化による公平性境界のタイトネスを向上させるためのヒューリスティックを開発すること。
• 理論的境界とヒューリスティックを実データ（1990年米国国勢調査）および合成データ上で検証し、データが限られる状況における実用的有用性を示すこと。
• 標準的な公平性概念（例：デモグラフィックパリティや等しい機会）に一般化可能なフレームワークを提供すること。

提案手法

• 保護属性を離散的確率変数としてモデル化し、それらの間の統計的依存度を全相関（total correlation）で測定する。
• マージナル公平性指標と保護属性の全相関を用いて、交差的不平等の確率的境界を導出する。
• 高い統計的依存度を示す属性をグループ化することで、分散を低減し境界をタイトにするパーティショニングのヒューリスティックを導入する。
• 対数尤度比の分散と依存構造を関数として定式化し、粗いパーティショニングにより全相関を低減することで境界の改善を実現する。
• 実際の応用においては、マージナル分布と依存度測度の経験的推定を用いて境界と近似値を計算する。
• 実データ（1990年米国国勢調査）および合成データ上で実験を行い、境界のタイトネスと収束速度を比較する。

実験結果

リサーチクエスチョン

• RQ1 交差的公平性は、マージナル公平性指標からいつ正確に回復可能か？
• RQ2 マージナル公平性と統計的依存度情報のみを用いて、交差的不平等をどのように境界づけられるか？
• RQ3 統計的独立性に基づいて保護属性をグループ化することで、公平性境界のタイトネスが向上するか？
• RQ4 提案された境界は、高次元かつスパースなデータ環境下で、交差的不平等の経験的推定と比べてどのように異なるか？
• RQ5 データスパarsityが、マージナル公平性が交差的公平性の代理としての信頼性に与える影響は何か？

主な発見

• 本稿では、交差的公平性がマージナル公平性から正確に導出可能な十分条件を同定し、マージナル公平性が代理としての限界を明確にした。
• マージナル公平性と全相関を用いて、交差的不平等の高確率境界を導出し、これらはデータから容易に推定可能である。
• 統計的独立性に基づく保護属性のグループ化という提案されたヒューリスティックは、あらゆるデータセットで境界のタイトネスを一貫して向上させた。
• 経験的結果から、改善された境界がベースライン境界よりもタイトであり、特にスパースなデータ環境下で真の交差的不平等に近いことが示された。
• サブグループあたりのデータが限られる状況でも本手法は有効であり、サブグループのサイズが小さすぎて信頼性のある経験的測定が不可能な場合、直接推定を上回る性能を示した。
• 指数的増加するサブグループ数により交差的公平性の正確な推定が困難な状況においても、境界が実用的有用であることが示された。