[論文レビュー] A Sequentially Fair Mechanism for Multiple Sensitive Attributes

François Hu, Philipp Ratz+1 more|arXiv (Cornell University)|Sep 12, 2023

Health Systems, Economic Evaluations, Quality of Life被引用数 4

ひとこと要約

本稿では、複数の感受性属性（MSA）に対する逐次的公平性を実現するためのメカニズムを提案する。多重量ワッサーマイン・バリセンタに依存し、予測の事後処理において正確かつ近似的な公平性を達成する。この手法は、感受性特徴の順序に依存しない公平な結果を保証するとともに、特定の公平性の優先順位付けを可能にし、閉形式の解を提供する。実験では、合成データおよび実世界のデータセットにおいて優れた実効性を示した。

ABSTRACT

In the standard use case of Algorithmic Fairness, the goal is to eliminate the relationship between a sensitive variable and a corresponding score. Throughout recent years, the scientific community has developed a host of definitions and tools to solve this task, which work well in many practical applications. However, the applicability and effectivity of these tools and definitions becomes less straightfoward in the case of multiple sensitive attributes. To tackle this issue, we propose a sequential framework, which allows to progressively achieve fairness across a set of sensitive features. We accomplish this by leveraging multi-marginal Wasserstein barycenters, which extends the standard notion of Strong Demographic Parity to the case with multiple sensitive characteristics. This method also provides a closed-form solution for the optimal, sequentially fair predictor, permitting a clear interpretation of inter-sensitive feature correlations. Our approach seamlessly extends to approximate fairness, enveloping a framework accommodating the trade-off between risk and unfairness. This extension permits a targeted prioritization of fairness improvements for a specific attribute within a set of sensitive attributes, allowing for a case specific adaptation. A data-driven estimation procedure for the derived solution is developed, and comprehensive numerical experiments are conducted on both synthetic and real datasets. Our empirical findings decisively underscore the practical efficacy of our post-processing approach in fostering fair decision-making.

研究の動機と目的

• 複数の感受性属性からの交差的バイアスを扱う際、単一感受性属性の公平性手法に見られる限界を是正すること。
• 予測性能を損なわず、複数の感受性特徴にわたる公平性を保証する事後処理フレームワークの開発。
• 特定の属性に対して近似的な公平性制約を許容することで、柔軟で優先順位付きの公平性向上を可能にすること。
• 感受性属性間の相関関係を公平性補正において定量的に評価できる、閉形式で解釈可能な解の提供。
• 多様なデータセットにおいて、本手法の有効性を実証的に検証すること。

提案手法

• 本手法は、2-Wassersteinバリセンタを用いて、強い特徴的公平性（Strong Demographic Parity）を複数の感受性属性に一般化する多重量バリセンタを構築する。
• ワッサーマイン・バリセンタの結合則を活用し、最適な公平な予測子を逐次的形式に再定式化することで、補正順序に依存しない一貫性のある結果を確保する。
• 調整可能な公平性制約を導入することで、近似的な公平性を実現し、リスクと不平等のトレードオフを可能にする。
• 実用的導入を可能にするために、経験的分布からバリセンタを推定するデータ駆動型推定手順を開発する。
• 個々の公平性制約パラメータを調整することで、特定の属性に対する公平性改善の優先順位を設定可能にする。
• 本手法は、あらゆる既存の予測器に対して事後的に適用可能であり、元の性能を保ちながらバイアスを是正する。

Figure 1: Synthetic data with $\boldsymbol{\tau}=(0,0.05,0.1)$ . A sequential unfairness evaluation, $\mathcal{U}_{3}$ , of ( left pane ) exact fairness, ( middle ) approximate $A_{1:3}$ -fairness with $\boldsymbol{\varepsilon}$ -RI where $\boldsymbol{\varepsilon}=\varepsilon_{1,2,3}=(0.2,0.5,0.75)$

実験結果

リサーチクエスチョン

• RQ1 感受性属性の補正順序に依存しない一貫性のある公平性を達成する方法は何か？
• RQ2 最適輸送を用いて、特徴的公平性を複数の感受性属性に一般化する最適な方法は何か？
• RQ3 多属性環境下で、特定の属性に対する公平性制約を柔軟に優先順位づける方法は何か？
• RQ4 近似的な公平性が予測性能およびサブグループの公平性に与える影響は何か？
• RQ5 感受性属性間の相関関係が、公平性補正プロセスおよび結果に与える影響は何か？

主な発見

• 提案手法は、感受性属性の補正順序に依存せず、順序に依存しない予測を実現する正確な公平性を達成する。
• Adultデータセットでは、不平等度を0.18から0.03に低減した一方でF1スコアを0.90に維持し、Fairlearn（0.08の不平等度）とFairBalance（0.16の不平等度）を上回った。
• 10の感受性属性を有するtunadromdデータセットにおいて、不平等度を3.77から1.05に低減し、高次元の感受性空間へのスケーラビリティを示した。
• 本手法は、特定の属性に対する公平性改善を可能にする：例えば、性別のためのεを人種の1/6に設定することで、サブグループの平均予測値を維持しながら主な属性のバイアス是正が可能となる。
• 数値実験では、すべてのテスト済みデータセットにおいて、F1 ≈ 0.95の高い予測性能を維持しながら、不平等度を顕著に低減した。
• 逐次フレームワークにより、サブグループレベルの公平性効果を明確に解釈可能にし、補正順序によって特定のサブグループにネット利益または損失が生じることを明らかにした。

Figure 2: (Risk, Unfairness) phase diagrams that shows the sequential fairness approach for ( left ) two and ( right ) three sensitive features. In this study, Unfairness represents the overall unfairness $\hat{\mathcal{U}}=\hat{\mathcal{U}}_{1:3}$ . Bottom-left corner gives the best trade-off.