[論文レビュー] FAIRER: Fairness as Decision Rationale Alignment

Tianlin Li, Qing Guo+4 more|arXiv (Cornell University)|Jun 27, 2023

Ethics and Social Impacts of AI被引用数 5

ひとこと要約

本稿では、公平性を意思決定根拠の整合性として定式化することで、DNN推論時におけるサブグループ間で一貫したニューロンレベルの影響を保証する、新たな公平性フレームワークFAIRERを提案する。中間ニューロン応答を正則化するための勾配誘導型パリティ整合性を導入することで、最小限の精度低下で顕著な公平性向上を達成し、最終予測の単なる一致ではなく意思決定根拠の明示的整合性により、複数のデータセットで既存手法を上回る性能を発揮する。

ABSTRACT

Deep neural networks (DNNs) have made significant progress, but often suffer from fairness issues, as deep models typically show distinct accuracy differences among certain subgroups (e.g., males and females). Existing research addresses this critical issue by employing fairness-aware loss functions to constrain the last-layer outputs and directly regularize DNNs. Although the fairness of DNNs is improved, it is unclear how the trained network makes a fair prediction, which limits future fairness improvements. In this paper, we investigate fairness from the perspective of decision rationale and define the parameter parity score to characterize the fair decision process of networks by analyzing neuron influence in various subgroups. Extensive empirical studies show that the unfair issue could arise from the unaligned decision rationales of subgroups. Existing fairness regularization terms fail to achieve decision rationale alignment because they only constrain last-layer outputs while ignoring intermediate neuron alignment. To address the issue, we formulate the fairness as a new task, i.e., decision rationale alignment that requires DNNs' neurons to have consistent responses on subgroups at both intermediate processes and the final prediction. To make this idea practical during optimization, we relax the naive objective function and propose gradient-guided parity alignment, which encourages gradient-weighted consistency of neurons across subgroups. Extensive experiments on a variety of datasets show that our method can significantly enhance fairness while sustaining a high level of accuracy and outperforming other approaches by a wide margin.

研究の動機と目的

• 公平性正則化DNNにおける解釈可能性の欠如に取り組むこと、すなわち意思決定の仕組みが理解されないまま公平性の向上が達成されることを防ぐ。
• 公平性が、異なるサブグループ間で一貫した意思決定根拠（すなわちニューロンレベルの影響）に根ざしているかどうかを調査すること。
• 最終予測の一致だけでなく、中間段階の意思決定根拠の整合性を保証する新たな公平性パラダイムを提唱すること。
• 計算コストが著しく増大しないように、実時間での意思決定根拠の整合化を可能にする実用的な訓練時正則化手法を開発すること。

提案手法

• 中間ニューロンを削除した際の損失変化を測定することで、サブグループ間での意思決定根拠のズレを定量化するためのパラメータパリティスコアを導入する。
• 中間層および最終層の両方でサブグループ間で一貫したニューロン影響を要求する、新たな公平性目的関数「意思決定根拠整合性（DRAlign）」を提案する。
• 全データセットの計算を必要としない、各サンプルの勾配を用いてニューロン影響を推定する、DRAlign目的関数の緩和版である勾配誘導型パリティ整合性を開発する。
• 2次勾配を用いて訓練プロセスに正則化項を統合し、サブグループ間で一貫したニューロン応答を促進する。
• 訓練中に計算を扱いやすくするためにサンプルベース推定戦略を採用し、標準的な深層学習最適化と互換性を持つように実装する。

実験結果

リサーチクエスチョン

• RQ1 異なるサブグループ間でニューロンの意思決定根拠を整合化することで、DNNにおける公平性を向上させることができるか？
• RQ2 既存の公平性正則化手法は、最終予測の公平性を改善しているものの、なぜ完全にバイアスを排除できないのか？
• RQ3 中間ニューロンの影響に基づく訓練時正則化は、最終層のみに制限された制約よりも、より頑健な公平性を達成できるか？
• RQ4 意思決定根拠整合性を、計算コストが著しく増大しないように、DNN訓練中に実装する方法は何か？

主な発見

• パラメータパリティスコアはモデルの公平性と強く相関しており、サブグループ間での意思決定根拠の不一致が不公平の根本的原因であることを示している。
• 既存の公平性正則化手法は、最終層出力にのみ制約を設けるため、意思決定根拠の整合性を部分的にしか達成できていない。
• FAIRERは、3つの公開データセットにおいて、最先端の手法を上回る顕著な公平性を達成するとともに、精度を維持またはわずかに向上させた。
• 勾配誘導型パリティ整合性手法により、全データセットの再評価を各ステップで行う必要なく、効果的かつスケーラブルな訓練時最適化が可能になった。