[論文レビュー] Gradient Reversal Against Discrimination

Edward Raff, Jared Sylvester|arXiv (Cornell University)|Jul 1, 2018

Ethics and Social Impacts of AI参考文献 4被引用数 8

ひとこと要約

本稿では、勾配逆転を用いた差別の防止手法であるGRADを提案する。GRADは、バックプロパゲーション中に保護属性予測器からの勾配を逆転させることで、公平なニューラルネットワークを訓練するシンプルで効果的な手法である。GRADは1つのハイパーパrameterのみを必要とし、個々の公平性とグループの公平性の両方を向上させ、先行手法を上回る公平性指標を達成する。また、アーキテクチャの制限なしに複数の属性を同時に保護できる。

ABSTRACT

No methods currently exist for making arbitrary neural networks fair. In this work we introduce GRAD, a new and simplified method to producing fair neural networks that can be used for auto-encoding fair representations or directly with predictive networks. It is easy to implement and add to existing architectures, has only one (insensitive) hyper-parameter, and provides improved individual and group fairness. We use the flexibility of GRAD to demonstrate multi-attribute protection.

研究の動機と目的

• 任意のアーキテクチャに適用可能な汎用的な公平なニューラルネットワークの訓練手法の不足を解消すること。
• 保護属性と特徴量の間の隠れた相関により失敗する『公平性のための無知』手法の限界を克服すること。
• モデルの予測が性別、人種、年齢などの保護属性に不変であることを保証する手法を開発すること。
• 予測精度や公平性を損なわせることなく、複数の保護属性を同時に保護できること。
• 任意のニューラルネットワークアーキテクチャ（標準的な予測モデルやオートエンコーダーを含む）と互換性がある、即挿し可能なソリューションを提供すること。

提案手法

• 1つのブランチがターゲットラベルを予測し、もう1つのブランチが保護属性を予測する二重ブランチ型ニューラルネットワークアーキテクチャを導入する。
• 組み合わせ損失関数を用いる：ℓ(y, a_p) = ℓ_t(y) + λ·ℓ_p(a_p)，ここでλは精度と公平性のトレードオフを制御する。
• 保護属性ブランチからの勾配に-1を乗算し、共有トランクネットワークにバックプロパゲートすることで、勾配を逆転させる。
• この勾配逆転により、ネットワークが保護属性を予測できる表現を学習するのを抑制しつつ、ターゲット予測の有用性は維持される。
• この手法は基盤となるモデルアーキテクチャに依存せず、予測用およびオートエンコーディング用の両方のネットワークに適用可能である。
• λの値が[50, 2000]の範囲で安定しており、実用上はハイパーパramータチューニングの必要がない。

実験結果

リサーチクエスチョン

• RQ1 多様なアーキテクチャに適用可能な、単一でシンプルな手法を用いて、アーキテクチャの再設計を必要とせずに公平なニューラルネットワークを訓練できるか？
• RQ2 保護属性予測器からの勾配逆転が、高い予測精度を維持したままモデルバイアスを効果的に低減できるか？
• RQ3 GRADは、人種と性別などの複数の保護属性を同時に保護できるか？ また、個々の属性における差別は増加しないか？
• RQ4 GRADの性能はハイパーパramータλの選択にどれほど敏感か？
• RQ5 GRADは、差別度、デルタ、一貫性といった公平性指標において、既存の公平性手法を上回るか？

主な発見

• GRADは、Adult、Health、Diabetes、Germanなど複数のデータセットで最先端の公平性性能を達成し、差別度を一貫して低減している。
• Adultデータセットでは、GRAD-Predは人種に関する差別度スコアが0.0028、性別に関しては0.0034であり、ベースラインモデルよりも顕著に低い。
• Adultデータセットでは、GRADが一貫性を0.7180まで向上させ、次に良い手法の0.6464を上回り、個人レベルの公平性が向上していることを示している。
• Diabetesデータセットで人種と性別を同時に保護した場合、GRADは差別度を人種で0.0055、性別で0.0030まで低下させ、デルタ = 0.5723を達成し、強力な公平性と精度のバランスを示している。
• GRADの性能はλに強く依存せず、λ ∈ [1, 2000]の範囲で安定した結果を示し、極端な値でも精度や公平性に顕著な劣化が生じない。
• 1つの属性（例：人種）のみを保護し、もう1つの属性（例：性別）を無視すると、保護されていない属性での差別度が増加する。これは、複数属性保護の必要性を確認している。