[論文レビュー] Post-Hoc Methods for Debiasing Neural Networks

Yash Savani, Colin White+1 more|arXiv (Cornell University)|Jun 15, 2020

Adversarial Robustness in Machine Learning参考文献 7被引用数 2

ひとこと要約

本稿では、再訓練を伴わずに事前学習済みニューラルネットワークのバイアスを軽減するための3つの新しい後処理手法—ランダム摂動、レイヤー単位の最適化、 adversarial fine-tuning—を提案する。性能はモデル初期化状態やバイアス測定法によって顕著に異なることが示され、どの手法もすべての設定で優位に立つわけではない。再現性のためのオープンソースコードも提供されている。

ABSTRACT

As deep learning models become tasked with more and more decisions that impact human lives, such as hiring, criminal recidivism, and loan repayment, bias is becoming a growing concern. This has led to dozens of definitions of fairness and numerous algorithmic techniques to improve the fairness of neural networks. Most debiasing algorithms require retraining a neural network from scratch, however, this is not feasible in many applications, especially when the model takes days to train or when the full training dataset is no longer available. In this work, we present a study on post-hoc methods for debiasing neural networks. First we study the nature of the problem, showing that the difficulty of post-hoc debiasing is highly dependent on the initial conditions of the original model. Then we define three new fine-tuning techniques: random perturbation, layer-wise optimization, and adversarial fine-tuning. All three techniques work for any group fairness constraint. We give a comparison with six algorithms - three popular post-processing debiasing algorithms and our three proposed methods - across three datasets and three popular bias measures. We show that no post-hoc debiasing technique dominates all others, and we identify settings in which each algorithm performs the best. Our code is available at this https URL.

研究の動機と目的

• 再訓練が時間的・データ的制約により現実的でない、実世界の応用においてニューラルネットワークのバイアス軽減を解決すること。
• 後処理微調整手法が、モデルの精度を維持したままバイアスを効果的に低減できるかどうかを調査すること。
• 複数のデータセットおよび公平性指標において、提案された3つの微調整手法と6つの既存の後処理バイアス軽減アルゴリズムを比較すること。
• 各バイアス軽減手法が最も効果を発揮する条件を、モデル初期化状態およびバイアス制約に基づいて特定すること。

提案手法

• ランダム摂動の提案：微調整中に小さなランダムな重み更新を適用し、バイアスが強い局所最適解から脱出する。
• レイヤー単位の最適化の導入：個々のネットワーク層を別々に微調整することで、各層におけるバイアス低減をよりよく制御する。
• adversarial fine-tuningの開発：予測と感受性属性の相関を最小化するための敵対的損失を用いる。
• すべての3つの手法を任意のグループ公平性制約に適用可能にし、標準的な公平性定義と互換性を持つようにする。
• 等しい機会、人口統制など、標準的なバイアス測定法を用いて公平性の向上を評価する。
• 3つのデータセットで手法を検証し、3つの既存の後処理バイアス軽減アルゴリズムおよび3つの新規手法と性能を比較する。

実験結果

リサーチクエスチョン

• RQ1 初期モデル状態が後処理バイアス軽減手法の成功にどのように影響するか？
• RQ2 ランダム摂動、レイヤー単位の最適化、adversarial fine-tuning のうち、どの手法が異なる公平性制約下で最も優れた性能を示すか？
• RQ3 提案手法は、既存の後処理バイアス軽減アルゴリズムと比較して、公平性の向上と精度の保持の両面でどのように差をつけるか？
• RQ4 どのような状況で各バイアス軽減手法が他より優れるようになり、その性能に影響を与える要因は何か？

主な発見

• どの後処理バイアス軽減手法も、すべてのデータセット、公平性指標、モデル初期化状態において一貫して優位に立つわけではない。
• 後処理手法の性能は、事前学習モデルの初期重みに強く依存しており、モデル初期化がバイアス軽減の成功に顕著に影響することが示された。
• adversarial fine-tuning は平均的に最も強い公平性の向上を達成しており、特に等しい機会および等化されたオッズの指標で顕著である。
• レイヤー単位の最適化は、モデルがもともと比較的公平な状態にある場合に優れた性能を示し、根本的なバイアス是正よりも微調整に適していることが示唆された。
• ランダム摂動は、初期バイアスが高く、データ量が限られている状況で最も優れた性能を示し、劣悪な局所最適解からの脱出能力に起因する。
• 提案手法はバイアス低減の一方で、モデル精度を維持または向上させることができ、実世界への導入における実用的妥当性を示した。