[論文レビュー] Fairness via Representation Neutralization

Mengnan Du, Subhabrata Mukherjee+4 more|arXiv (Cornell University)|Jun 23, 2021

Ethics and Social Impacts of AI参考文献 42被引用数 28

ひとこと要約

RNF は、中和された表現を用いて分類ヘッドのみをデバイアスすることでバイアスを緩和し、必要に応じて proxy sensitive-attribute annotations を併用し、トレーニング時に protected attribute labels を要求せずに済む。

ABSTRACT

Existing bias mitigation methods for DNN models primarily work on learning debiased encoders. This process not only requires a lot of instance-level annotations for sensitive attributes, it also does not guarantee that all fairness sensitive information has been removed from the encoder. To address these limitations, we explore the following research question: Can we reduce the discrimination of DNN models by only debiasing the classification head, even with biased representations as inputs? To this end, we propose a new mitigation technique, namely, Representation Neutralization for Fairness (RNF) that achieves fairness by debiasing only the task-specific classification head of DNN models. To this end, we leverage samples with the same ground-truth label but different sensitive attributes, and use their neutralized representations to train the classification head of the DNN model. The key idea of RNF is to discourage the classification head from capturing spurious correlation between fairness sensitive information in encoder representations with specific class labels. To address low-resource settings with no access to sensitive attribute annotations, we leverage a bias-amplified model to generate proxy annotations for sensitive attributes. Experimental results over several benchmark datasets demonstrate our RNF framework to effectively reduce discrimination of DNN models with minimal degradation in task-specific performance.

研究の動機と目的

• エンコーダの表現からタスク固有の分類ヘッドへバイアスが伝搬するメカニズムを動機づけて分析する。
• Representation Neutralization for Fairness (RNF) を提案し、偏ったエンコーダを入力として用いながら分類ヘッドのみをデバイアス解除する。
• グラウンド-truth ラベルにアクセスできない低リソース設定で、敏感属性の proxy annotations を生成して公正性を緩和できるようにする。
• RNF が表形式・画像のベンチマークで最小限のタスク正確度低下で差別を低減することを示す。
• RNF が既存のデバイアス済みエンコーダ法を補完し、改善された公正性のためにそれらと組み合わせることができることを示す。）
• method:[
• 標準のクロスエントロピーで biased teacher ネットワークを訓練して biased representations を取得する。
• biased teacher からエンコーダをフリーズし、同じラベルで異なる敏感属性を持つサンプルの2つの表現の平均を用いる representation neutralization を用いて分類ヘッドのみを再訓練する。
• biased teacher の softened probabilities (temperature scaling) をヘッド再訓練時の知識蒸馏のターゲットとして用いる。
• 平滑化中和と混合損失（中和表現と softened predictions の間の MSE）を組み込み、タスク関連情報への依存を促し、保護属性に対する感度を低減する。
• 属性ラベルのない設定で RNF を可能にするため、generalized cross entropy (GCE) で訓練された bias-amplified モデルを用いて proxy sensitive-attribute annotations を任意に生成する。
• 偏ったエンコーダと再訓練済みヘッドを結合して推論用のデバイアス済みスチューデントモデルを形成する。

提案手法

• Train a biased teacher network with standard cross entropy to obtain biased representations.
• Freeze the encoder from the biased teacher and re-train only the classification head using representation neutralization, which uses the average of two representations from samples with the same label but different sensitive attributes.
• Use softened probabilities from the biased teacher (temperature scaling) as targets for knowledge distillation during head retraining.
• Incorporate a smoothing neutralization and a mixed loss (MSE between neutralized representations and softened predictions) to encourage reliance on task-relevant information and reduce sensitivity to protected attributes.
• Optionally generate proxy sensitive-attribute annotations via a bias-amplified model trained with generalized cross entropy (GCE) to enable RNF in settings without attribute labels.
• Combine the biased encoder with the retrained head to form a debiased student model for inference.

実験結果

リサーチクエスチョン

• RQ1 biased encoder 表現が与えられた状態で、分類ヘッドのみをデバイアス解除することで、タスク性能に大きな影響を与えることなく差別を低減できるか？
• RQ2 保護属性ラベルが利用できない場合に敏感属性の proxy annotations はどのように生成でき、RNF に対してどの程度有効か？
• RQ3 中和された表現がヘッドの公平性に敏感な情報への依存に与える影響は何か？
• RQ4 公正性と精度のトレードオフの観点で、RNF は敵対的トレーニングや等化オッズ正則化とどう比較されるか？
• RQ5 RNF は既存のデバイアス済みエンコーダを補完する追加機能として機能するか？

主な発見

• RNF はベンチマークデータセット全体で差別を大幅に低減し、タスク精度の低下は最小限である。
• RNF は真の敏感属性を用いる手法と同等に機能し、特定の指標ではいくつかのベースラインを上回ることがある。
• softened labels (temperature T > 1) と平滑化正則化を用いることで、過度に自信を持つ偏った予測を抑制し、緩和を改善する。
• GCE ベースの proxy annotations は低リソース設定で RNF を可能にし、完璧でない注釈でも有意義な公正性の改善を達成する。
• 最後の層のみデバイアス解除（RNF-Last）で、深い層をデバイアス解除する場合と同等程度の精度低下か小さな低下で、 substantial な公正性の向上を得られる。
• RNF はデバイアス済みエンコーダを補完できる。既知のデバイアスエンコーダと組み合わせると公正性指標がさらに向上する。