[論文レビュー] Last-Layer Fairness Fine-tuning is Simple and Effective for Neural Networks

Yuzhen Mao, Zhun Deng+4 more|arXiv (Cornell University)|Apr 8, 2023

Welding Techniques and Residual Stresses被引用数 4

ひとこと要約

本論文では、事前学習モデルの最終層のみをファインチューニングし、公平性制約とデータリウェイトリングを適用することで、公平な深層ニューラルネットワークを訓練するシンプルだが効果的な手法を提案する。このアプローチは、公平性基準への過学習を顕著に低減し、ベンチマークデータセットにおいて、フルネットワークファインチューニングや他のベースラインと比較して、最先端の公平性と精度のトレードオフを達成する。

ABSTRACT

As machine learning has been deployed ubiquitously across applications in modern data science, algorithmic fairness has become a great concern. Among them, imposing fairness constraints during learning, i.e. in-processing fair training, has been a popular type of training method because they don't require accessing sensitive attributes during test time in contrast to post-processing methods. While this has been extensively studied in classical machine learning models, their impact on deep neural networks remains unclear. Recent research has shown that adding fairness constraints to the objective function leads to severe over-fitting to fairness criteria in large models, and how to solve this challenge is an important open question. To tackle this, we leverage the wisdom and power of pre-training and fine-tuning and develop a simple but novel framework to train fair neural networks in an efficient and inexpensive way -- last-layer fine-tuning alone can effectively promote fairness in deep neural networks. This framework offers valuable insights into representation learning for training fair neural networks.

研究の動機と目的

• 過パラメータ化された深層ニューラルネットワークにおける、処理内訓練中の公平性過学習の課題に対処すること。
• 事前学習モデルの最終層のみをファインチューニングすることで、フルネットワーク再トレーニングなしに公平性を効果的に促進できるかどうかを調査すること。
• 最後の層のファインチューニングにおいて、データリウェイトリングと公平性制約を組み合わせることで、公平性一般化が向上するかを評価すること。
• 提案手法が、ドメイン外データや代替のファインチューニング構造に対しても一般化可能かどうかを調査すること。

提案手法

• 教師あり学習の標準的な経験的リスク最小化を用いて、ソースデータセット上で深層ニューラルネットワークを事前学習し、強固な表現を学習する。
• すべての層を凍結した状態で、公平性制約付きの目的関数を用いて最終分類層のみをファインチューニングする。
• 最後の層のファインチューニング中にデータリウェイトリングを適用し、訓練データ内のマイノリティグループとマジョリティグループのバランスを取る。
• 勾配降下法にモーメンタムと重み減衰を適用し、最後の層における公平性正則化目的関数を最適化する。
• 公平性と精度の両方を統合的に評価するための新規な公平性-精度ハイブリッド指標（AF）を導入する。
• 等価オッズ差（Equalized Odds Difference）、精度同等差（Accuracy Equality Difference）、最悪精度（Worst Accuracy）の複数の公平性概念に対して、手法を評価する。

実験結果

リサーチクエスチョン

• RQ1 公平性制約付きの最後の層ファインチューニングは、大規模ニューラルネットワークにおける公平性目的への過学習を効果的に緩和できるか？
• RQ2 データリウェイトリングを最後の層ファインチューニングと組み合わせることで、不均衡なデータセットにおける公平性一般化が向上するか？
• RQ3 公平性制約付きの最後の層ファインチューニングは、公平性と精度の観点から、フルネットワークファインチューニングと比較してどのように性能を発揮するか？
• RQ4 表現がソースドメインで学習された場合、提案手法はドメイン外データに対しても一般化可能か？
• RQ5 最後の層のみをファインチューニングすることで、より深い層をファインチューニングするのと比較して、モデルのロバストネスが保持されたり、向上するか？

主な発見

• FDR（データリウェイトリングを用いたファインチューニング）は、最悪精度指標において、1.701という最高の公平性-精度（AF）スコアを達成し、すべてのベースラインを上回った。
• FDR手法は、テストデータにおける等価オッズ差（EO_Diff）を0.107にまで低下させ、FullFT-Reg（0.499）やLastFT-Reg（0.153）よりも顕著に低く抑えられた。
• 最後の層のファインチューニングは、訓練とテストの公平性指標の一般化ギャップを低減しており、フルネットワーク学習と比較して過学習が少ないことを示している。
• FDRはテスト時のWACCを0.892、AUCを0.958を達成し、高い公平性を維持したまま、強力な予測性能を示した。
• この手法はドメイン外データに対しても良好に一般化され、トランスファーラーニング設定下でもロバストネスを示した。
• 公平性制約付きで最後の層のみをファインチューニングすることで、過学習が低減したため、精度が低いにもかかわらず、フルネットワークファインチューニングよりも優れた公平性指標が得られた。