[論文レビュー] Fairness with Overlapping Groups

Forest Yang, Moustapha Cissé+1 more|arXiv (Cornell University)|Jun 24, 2020

Ethics and Social Impacts of AI参考文献 25被引用数 12

ひとこと要約

本稿は、重複する感受性グループを伴う公平な多クラス分類のための統一的確率的フレームワークを提案する。ベイズ最適分類と一貫性のある経験的リスク最小化を用い、理論的整合性を確立し、ベースラインと比較して実データセット上で優れた公平性と性能のトレードオフを示している。

ABSTRACT

In algorithmically fair prediction problems, a standard goal is to ensure the equality of fairness metrics across multiple overlapping groups simultaneously. We reconsider this standard fair classification problem using a probabilistic population analysis, which, in turn, reveals the Bayes-optimal classifier. Our approach unifies a variety of existing group-fair classification methods and enables extensions to a wide range of non-decomposable multiclass performance metrics and fairness measures. The Bayes-optimal classifier further inspires consistent procedures for algorithmically fair classification with overlapping groups. On a variety of real datasets, the proposed approach outperforms baselines in terms of its fairness-performance tradeoff.

研究の動機と目的

• 既存のグループ公平分類手法を確率的母集団解析フレームワークの下で統一すること。
• 伝統的な交差的公平性がデータ不足と計算上の障壁に直面する、複数の属性（例：人種と性別）が同時に存在する重複するグループにおける公平性の課題に対処すること。
• 非分解可能な性能および公平性指標に一般化可能な統計的に一貫したアルゴリズムを開発すること。
• 独立したグループ公平性（重複あり）と交差的グループ公平性の関係を明確にし、前者が後者を含意しないことを示すこと。
• 提案手法を実世界のデータセットで経験的に検証し、改善された公平性と性能のトレードオフを示すこと。

提案手法

• 本稿は、公平性と性能指標が誤分類行列の一般線形関数である多クラス問題におけるベイズ最適分類器を導出する。
• 重複するグループにおける公平性を保証するため、双対変数を用いた制約付き最適化問題を定式化し、サドルポイント定式化を活用する。
• 重み付き経験的リスク最小化（wERM）とプラグイン推定器を採用し、弱い条件下で統計的に一貫性が保証されることを示している。
• 公平性制約を処理するための双対ベースのアプローチを導入し、大標本条件下で最適解への収束を可能にする。
• 任意の重複するグループ定義をサポートし、F1 や AUC といった非分解可能な指標へ一般化可能である。
• VC次元とラデマッハ複雑度を用いて、経験的推定値が母集団値に収束する収束バウンドを用いて理論的整合性を確立している。

実験結果

リサーチクエスチョン

• RQ1 重複するグループにおける公平性を統一的確率的フレームワークで扱い、既存手法を包含できるか？
• RQ2 理論的保証の観点から、独立したグループ公平性（重複あり）と交差的グループ公平性の関係はいかなるものか？
• RQ3 一般の性能および公平性指標のもとで、重複するグループを伴う公平分類のための、一貫性があり統計的に信頼できるアルゴリズムを設計できるか？
• RQ4 提案手法の経験的公平性と性能のトレードオフは、実データセットにおける既存ベースラインと比較してどのように異なるか？
• RQ5 提案手法は、各属性ごとに公平性を達成するが、交差部分では達成されない公平性のゴーリング（gerrymandering）を回避できるか？

主な発見

• 提案手法は、Communities and Crime、Adult Census、German Credit、Law School といった複数の実世界データセットにおいて、ベースラインと比較してより優れた公平性と性能のトレードオフを達成している。
• 理論的分析により、重み付きERMとプラグイン推定器が一貫していることが証明され、大標本条件下で経験的推定値が母集団最適解に収束することが示された。
• 本稿は、弱い条件下で交差的公平性が重複グループ公平性を含意することを形式的に確立したが、逆は成り立たないことを示し、公平性ゴーリングのリスクを確認した。
• 経験的結果から、本手法は独立したグループおよびゴーリング公平性設定の両方で先行手法を上回り、最適な左下隅に近いパレートフロンティアを示した。
• フレームワークは非分解可能な指標と一般化された公平性制約を効果的に処理でき、多様なアルゴリズム的公平性応用に柔軟性を提供した。
• 交差的サブグループにおけるデータ不足に対しても本手法は頑健であり、交差的公平性で一般的に見られる指数的サブグループ列挙問題を回避した。