[論文レビュー] Technical Challenges for Training Fair Neural Networks

Valeriia Cherepanova, Vedant Nanda+3 more|arXiv (Cornell University)|Feb 12, 2021

Adversarial Robustness in Machine Learning参考文献 56被引用数 5

ひとこと要約

この論文は、深層ニューラルネットワーク（DNN）の学習において、既存のインプロセッシング公平性手法が失敗する理由を調査し、過学習による公平性制約への過剰適合および公平性のジェリーマンダリング（ある保護属性における公平性の向上が、別の属性における不公平性を悪化させる現象）が、公平性の取り組みを損なうことを明らかにした。厳密なテストにもかかわらず、古典的モデルで有効な手法はDNNの過パrameter化領域では失敗し、予期しない差別的傾向と性能の低下を引き起こす。

ABSTRACT

As machine learning algorithms have been widely deployed across applications, many concerns have been raised over the fairness of their predictions, especially in high stakes settings (such as facial recognition and medical imaging). To respond to these concerns, the community has proposed and formalized various notions of fairness as well as methods for rectifying unfair behavior. While fairness constraints have been studied extensively for classical models, the effectiveness of methods for imposing fairness on deep neural networks is unclear. In this paper, we observe that these large models overfit to fairness objectives, and produce a range of unintended and undesirable consequences. We conduct our experiments on both facial recognition and automated medical diagnosis datasets using state-of-the-art architectures.

研究の動機と目的

• 過学習と複雑な意思決定境界が一般的な深層ニューラルネットワークにおけるインプロセッシング公平性手法の有効性を調査すること。
• なぜ古典的モデル（例：SVM、ロジスティック回帰）で有効な公平性制約が、DNNの過パrameter化領域では失敗するのかを特定すること。
• ある感受性属性における公平性の向上が、他の属性における差別のを悪化させるという、意図しない結果（公平性のジェリーマンダリング）を検討すること。
• 特に顔認識および医療診断タスクにおいて、敵対的およびペナルティベースの公平性学習の有効性を評価すること。
• 公平性指標（例：等しい損失）が実世界のパフォーマンス（例：AUC）に一般化しないこと、すなわち公平性主張を揺るがす事実を示すこと。

提案手法

• 顔認識および医療診断タスクのResNet-18モデルを用いて、ペナルティベース最適化、敵対的学習、公平性制約を含む多様なインプロセッシング公平性技術を実証的に評価する。
• 等しい損失、敵対的ペナルティ、ラベルの反転を用いて公平性制約を適用し、訓練、検証、テスト分割における一般化を評価する。
• 感受性属性分類器を用いて、DNNが意思決定境界を悪用して公平性制約を満たす一方で、他のサブグループに悪影響を及げるかどうかを検出する。
• グループ差別の度合い（例：男性と女性サブグループ間のAUCギャップ）を公平性指標として測定し、さまざまな公平性介入によるパフォーマンス劣化を追跡する。
• 保護属性のラベルをランダムに反転させることでデータ操作を模擬し、公平性手法のロバストネスを評価するアブレーションスタディを実施する。
• 複数の公平性目的（例：等しいオッズ、等しい機会）およびモデルアーキテクチャを比較し、失敗モードを特定する。

実験結果

リサーチクエスチョン

• RQ1 なぜ古典的モデルで有効な公平性制約が、過パrameter化された深層ニューラルネットワークに適用すると失敗するのか？
• RQ2 DNNにおける公平性目的への過学習が、複数の感受性属性にわたって公平性のジェリーマンダリングを引き起こす程度はどの程度か？
• RQ3 等しい損失のような公平性の代理指標が、DNNにおける実際の公平性指標（例：AUC）にどの程度一般化されるか？
• RQ4 公平な表現のための敵対的学習は、新たな差別的傾向を生じさせることなく、DNNにおけるバイアスを効果的に制御できるか？
• RQ5 ラベルの反転が、公平性制約付きで学習されたDNNにおける公平性とパフォーマンスに与える影響は何か？

主な発見

• 既存のインプロセッシング公平性手法は、DNNにおいて過学習のため失敗する。モデルが訓練データを補間し、すべてのサブグループで完全な正確性を達成するため、学習中はバイアスの測定が不可能になる。
• 公平性のジェリーマンダリングは広範に見られる：ある感受性属性（例：性別）における公平性の強制は、しばしば別の属性（例：年齢）における差別を増大させる。特に顔認識システムにおいて顕著である。
• 公平性制約が訓練データ上で差別のを低減しているように見える場合でも、ホールドアウトデータでは頻繁に失敗し、一般化能力の欠如が示される。
• ラベル反転実験では、公平性介入によりすべてのサブグループのAUCパフォーマンスが劣化し、一部のケースでは平均で最大15％のAUC低下が観察された。
• 敵対的公平性学習手法は一貫した公平な結果を生み出せず、一般化能力に欠け、保護されたサブグループのパフォーマンスがテストセットで劣化することが多い。
• 損失の平等は公平性指標の平等を意味しない。例えば、等しい損失が等しいAUCをもたらさず、DNNにおける一般的な公平性の代理指標の妥当性が揺らぐ。