[論文レビュー] Learning fair representation with a parametric integral probability metric

Dong Ha Kim, Kunwoong Kim+3 more|arXiv (Cornell University)|Feb 7, 2022

Ethics and Social Impacts of AI被引用数 4

ひとこと要約

本稿では、シグモイドベースの識別器族を用いたパラメトリックな積分確率測度（IPM）を用いた、公平な表現学習のための新しい対抗的訓練手法sIPM-LFRを提案する。理論的保証として、表現の公平性と最終予測モデルの公平性の間の関係を提示し、計算効率と安定性に優れ、複数のデータセットおよびモデルにおいて、既存のLFR手法よりも優れた公平性と精度のトレードオフを達成している。

ABSTRACT

As they have a vital effect on social decision-making, AI algorithms should be not only accurate but also fair. Among various algorithms for fairness AI, learning fair representation (LFR), whose goal is to find a fair representation with respect to sensitive variables such as gender and race, has received much attention. For LFR, the adversarial training scheme is popularly employed as is done in the generative adversarial network type algorithms. The choice of a discriminator, however, is done heuristically without justification. In this paper, we propose a new adversarial training scheme for LFR, where the integral probability metric (IPM) with a specific parametric family of discriminators is used. The most notable result of the proposed LFR algorithm is its theoretical guarantee about the fairness of the final prediction model, which has not been considered yet. That is, we derive theoretical relations between the fairness of representation and the fairness of the prediction model built on the top of the representation (i.e., using the representation as the input). Moreover, by numerical experiments, we show that our proposed LFR algorithm is computationally lighter and more stable, and the final prediction model is competitive or superior to other LFR algorithms using more complex discriminators.

研究の動機と目的

• 既存の公平な表現学習（LFR）手法において、表現の公平性と最終予測モデルの公平性との間の理論的接続が欠如している問題に対処すること。
• LFRにおける対抗的訓練のための原理的で計算効率の良い識別器アーキテクチャを構築し、ヒューリスティックな深層ニューラルネットワークの選択を越えること。
• 学習された表現の公平性が、下流の予測モデルの公平性に正しく反映されることを保証すること。
• 複雑な識別器を用いた既存のLFRアルゴリズムと比較して、訓練の安定性を向上させるとともに、計算コストを低減すること。
• 提案手法が、多様なデータセットおよび予測モデルにおいて、競争的または優れた公平性と精度のトレードオフを達成することを実証的に検証すること。

提案手法

• 対抗的訓練における一般的な深層ニューラルネットワークの代わりに、シグモイド関数に基づくパラメトリックな識別器族を提案し、特定の積分確率測度（IPM）を定義する。
• オートエンコーダーに基づくLFRフレームワークにおいて、IPMを公平性正則化項として用い、符号化器が感受性グループの分布間のIPMを最小化する表現を学習する。
• シグモイドベースの識別器によるIPMの微分可能で閉形式の近似を導入し、安定的かつ効率的な最適化を可能にする。
• 2段階の訓練プロセスを採用：まず再構成損失を用いてオートエンコーダーを事前学習し、その後、パラメトリックIPMを用いて表現と識別器を同時に最適化する。
• 公平性と精度の評価のため、複数のデータセット（Adult, COMPAS, Health）および予測モデル（線形、SVM、ニューラルネットワーク）に本手法を適用する。
• IPMを用いて公平性レベルを制御し、ハイパーパrameter λ を用いて公平性と精度の間の系統的で柔軟なトレードオフを実現する。

実験結果

リサーチクエスチョン

• RQ1 学習された表現の公平性は、その上に構築された最終予測モデルの公平性とどのように関連しているか？
• RQ2 シグモイドベースなどのシンプルなパラメトリックな識別器族（例：シグモイドベース）は、複雑な深層ニューラルネットワークと比較して、LFRにおいてより強い理論的公平性保証を提供できるか？
• RQ3 パラメトリックなIPMを用いることで、既存のLFR手法と比較して、より安定的かつ計算効率の高い訓練が達成できるか？
• RQ4 提案手法は、LAFTR や FVAE などの最先端LFRアルゴリズムと比較して、より優れた公平性と精度のトレードオフを達成できるか？
• RQ5 提案手法の性能は、表現次元 m の選択にどれほど敏感か？

主な発見

• 提案されたsIPM-LFR手法は、最終予測モデルの公平性が表現の公平性によって上限付けられることを理論的に保証し、表現の公平性とモデルの公平性の間の直接的な関連を確立した。
• sIPM-LFRはLAFTRと比較して約20％の計算時間短縮を達成し、優れた計算効率を示した。
• 表現次元 m の選択に対してより感受性が低く、さまざまな m 値においてもParetoフロントの性能が安定していることが実証された。
• 公平性と精度のトレードオフの比較において、sIPM-LFRはLAFTR や FVAE を常に上回るか、同等の性能を示し、DP、MDP、SDPの公平性指標において標準誤差が低く、中央値性能も優れていた。
• すべてのデータセットおよびモデルにおいて、ΔDP、ΔMDP、ΔSDPの値が低く抑えられ、より強い公平性を達成した一方で、予測精度は維持または向上させた。
• 理論的分析により、FVAEで用いられるMMDが提案されたsIPMによって上界に抑えられることを示し、sIPMの制御がMMDの低減を保証することを裏付け、本手法の公平性の強固さを検証した。