[論文レビュー] FlipTest: Fairness Auditing via Optimal Transport.

Emily Black, Samuel Yeom+1 more|arXiv (Cornell University)|Jun 21, 2019

Ethics and Social Impacts of AI参考文献 32被引用数 4

ひとこと要約

FlipTest は、最適輸送を用いて保護群間の個人をマッチングし、分布内ペアを形成することで、ブラックボックス型の公平性監査手法である。この手法は、群属性のシミュレーション後に予測が変化する「フリップセット」を特定し、集団レベルの公平性指標が満たされている場合でさえも、有害なサブグループへの扱いを検出可能である。

ABSTRACT

We present FlipTest, a black-box technique for uncovering discrimination in classifiers. FlipTest is motivated by the intuitive question: had an individual been of a different protected status, would the model have treated them differently? Rather than relying on causal information to answer this question, FlipTest leverages optimal transport to match individuals in different protected groups, creating similar pairs of in-distribution samples. We show how to use these instances to detect discrimination by constructing a flipset: the set of individuals whose classifier output changes post-translation, which corresponds to the set of people who may be harmed because of their group membership. To shed light on why the model treats a given subgroup differently, FlipTest produces a transparency report: a ranking of features that are most associated with the model's behavior on the flipset. Evaluating the approach on three case studies using real and synthetic data, we show that this provides a computationally inexpensive way to identify subgroups that may be harmed by model discrimination, including in cases where the model satisfies population-level group fairness criteria.

研究の動機と目的

• 集団レベルの公平性基準を満たしても、サブグループレベルの差別的行動を検出する課題に対処すること。
• 因果的仮定やモデル内部構造を必要とせず、ブラックボックスで公平性監査を実行できる手法を開発すること。
• 透明性レポートを通じて、差別的行動に最も寄与する特徴量を特定し、実行可能なインサイトを提供すること。
• 最適輸送に基づくサンプルマッチングを用いて、計算コストが低く、効率的な公平性評価を可能にすること。

提案手法

• FlipTest は、最適輸送を用いて異なる保護群に属する個人をマッチングさせ、分布差を最小化することで、分布内ペアを構築する。
• 個人の保護群属性を反転させた反事後的シナリオをシミュレートし、入力の「変換済み」バージョンを生成する。
• フリップセットとは、この変換後に分類器出力が変化する個人の集合であり、群属性に起因する潜在的な差別的要因を示している。
• 透明性レポートは、フリップセットにおけるモデル行動と関連する特徴量を順位付けし、差別的要因を強調する。
• この手法はブラックボックス形式で動作し、モデルの予測結果と入力データのみを必要とする。
• 最適輸送を活用することで、マッチングペアが比較可能で、元のデータ分布を的確に反映していることを保証する。

実験結果

リサーチクエスチョン

• RQ1 最適輸送を用いることで、異なる保護群に属する個人間の公平で、分布内比較を構築できるか？
• RQ2 グローバルな公平性指標が満たされている場合でも、フリップセットアプローチは有害なサブグループ差別を検出できるか？
• RQ3 透明性レポートは、差別的行動に最も寄与する特徴量を特定するのにどの程度有効か？
• RQ4 FlipTest は、最小限の計算コストで、実世界および合成データセットにおける差別的行動を検出できるか？
• RQ5 既存の公平性監査手法と比較して、FlipTest は隠れたサブグループ差別の特定にどの程度優れているか？

主な発見

• FlipTest は、集団レベルの公平性基準を満たしても、モデルの差別的行動によって害を受けるサブグループを効果的に特定できる。
• 従来の公平性指標がサブグループレベルの差別的差を明らかにできない状況においても、この手法は差別的行動を検出可能である。
• 透明性レポートは、フリップセットにおけるモデル行動と関連する特徴量を順位付けすることで、差別的要因を特定する実行可能なインサイトを提供する。
• このアプローチは計算的に効率的であり、モデル内部構造へのアクセスなしにブラックボックス監査を可能にする。
• 実データおよび合成データを用いた評価により、FlipTest は集計的公平性指標では検出できない隠れた公平性問題を明らかにできることが示された。
• フリップセットは、群属性に起因して結果が変化する個人を効果的に捉えており、潜在的な差別的要因を浮き彫りにしている。