[論文レビュー] SenSeI: Sensitive Set Invariance for Enforcing Individual Fairness

Mikhail Yurochkin, Yuekai Sun|arXiv (Cornell University)|Jun 25, 2020

Ethics and Social Impacts of AI参考文献 39被引用数 15

ひとこと要約

SenSeIは、輸送に基づく正則化子を用いて感受性集合におけるモデル予測の不変性を強制する分布的個別公平性フレームワークを提案する。これにより、証明可能な公平性を持つモデルの効率的訓練が可能になる。本手法は、収入分類、職業予測、有害コメント検出の3つの実世界の機械学習タスクにおいて、公平性指標の向上を達成するとともに、一般化性能と公平性-精度のトレードオフの柔軟性を維持する。

ABSTRACT

In this paper, we cast fair machine learning as invariant machine learning. We first formulate a version of individual fairness that enforces invariance on certain sensitive sets. We then design a transport-based regularizer that enforces this version of individual fairness and develop an algorithm to minimize the regularizer efficiently. Our theoretical results guarantee the proposed approach trains certifiably fair ML models. Finally, in the experimental studies we demonstrate improved fairness metrics in comparison to several recent fair training procedures on three ML tasks that are susceptible to algorithmic bias.

研究の動機と目的

• 従来の個別公平性の統計的・計算的非効率性に対処するため、分析および正則化に適した、より扱いやすい分布的バージョンを定式化すること。
• 最適輸送に基づくデータ依存の正則化子を構築し、感受性入力ペアにおけるモデル出力の不変性を強制すること。
• 正則化子を最小化する効率的な確率的近似アルゴリズムを設計し、標準的な条件下で収束性と一般化を保証すること。
• アルゴリズム的バイアスにさらされやすい実世界のタスクにおいて、本手法を実証的に検証し、モデル性能を損なわず公平性を向上させることを示すこと。
• 分布的個別公平性を強制することで、グループ公平性指標も向上することを示すこと。これは、より広範な耐性を示すものである。

提案手法

• Dworkらの元々の個別公平性の緩和として、有界距離をもつ入力ペアの上での最適輸送問題として定式化された分布的個別公平性（DIF）を導入する。
• 正則化子 R(h) を、入力距離が有界で周辺分布 PX が固定されたすべての結合分布 Π における出力距離の期待値の上界として定義する。
• モデル学習中に正則化子を最小化するための確率的近似アルゴリズムを用い、大規模データセットにおける効率的最適化を可能にする。
• 最適輸送理論を活用し、同じ感受性集合に属する入力が異なるように扱われる場合にモデル出力をペナルティ化するデータ依存の正則化子を構築する。
• 正則化子を訓練目的関数のペナルティ項として適用し、ハイパーパrameter ρ を用いて公平性-精度のトレードオフを制御可能にする。
• 先行研究（例：Yurochkinら、2020年）の手法を応用し、感受性属性を符号化する類似度メトリクスを学習することで、公平性の強化を図る。

実験結果

リサーチクエスチョン

• RQ1 統計的に取り扱いやすく、正則化に適した分布的個別公平性のバージョンを定式化できるか？
• RQ2 輸送に基づく正則化子を構築し、感受性集合におけるモデル予測の不変性を維持しながら、モデルの一般化性能を保てるか？
• RQ3 提案されたSenSeI手法は、実世界の機械学習タスクにおいて、最先端のベースラインと比較してより優れた個別公平性指標を達成できるか？
• RQ4 SenSeIによる個別公平性の強制は、どの程度グループ公平性指標の向上にも寄与するか？
• RQ5 正則化強度 ρ を用いることで、公平性-精度のトレードオフを柔軟に制御できるか？

主な発見

• ToxicityおよびBiosデータセットにおいて、すべての正則化強度において、SenSeIはCLPより低いCTFスコアを達成しており、性別および人種の摂動下でも予測の一貫性が優れていることを示している。
• Adultデータセットでは、SenSeIはTPRギャップのRMSを0.035、Gap ABSを0.041にまで低減し、グループ公平性指標において先行手法を上回った。
• 本手法は、SenSR（Yurochkinら、2020年）とは異なり、ε=0のときでさえ水平な意思決定境界を生成するのではなく、柔軟な公平性-精度のトレードオフを可能にする。
• 確率的近似アルゴリズムは標準的な条件下で収束し、理論的保証によって、訓練済みモデルの一般化性能が良好であることが示された。
• DIFの強制により、3つのタスクすべてでグループ公平性指標が向上した。これは、個別公平性の強制がグループ公平性に肯定的な連鎖効果をもたらす可能性を示唆している。
• 本手法は、構成上証明可能な公平性を持つモデルを訓練でき、公平性および一般化性能に関する理論的保証を有する。