[論文レビュー] FairNeuron: Improving Deep Neural Network Fairness with Adversary Games on Selective Neurons

Xuanqi Gao, Juan Zhai+4 more|arXiv (Cornell University)|Apr 6, 2022

Adversarial Robustness in Machine Learning被引用数 4

ひとこと要約

FairNeuron は、経路解析と選択的再訓練を用いて、感受性属性に過剰に依存する「矛盾経路」におけるニューロンを特定し、選択的にドロップすることで、深層ニューラルネットワークの公平性を向上させる軽量で事後処理可能な手法である。全モデルの再訓練を必要とせず、公平性と精度のバランスを効果的に保ちながら、複数のデータセットにおいて最先端の手法を上回る効率性とスケーラビリティを実現する。

ABSTRACT

With Deep Neural Network (DNN) being integrated into a growing number of critical systems with far-reaching impacts on society, there are increasing concerns on their ethical performance, such as fairness. Unfortunately, model fairness and accuracy in many cases are contradictory goals to optimize. To solve this issue, there has been a number of work trying to improve model fairness by using an adversarial game in model level. This approach introduces an adversary that evaluates the fairness of a model besides its prediction accuracy on the main task, and performs joint-optimization to achieve a balanced result. In this paper, we noticed that when performing backward propagation based training, such contradictory phenomenon has shown on individual neuron level. Based on this observation, we propose FairNeuron, a DNN model automatic repairing tool, to mitigate fairness concerns and balance the accuracy-fairness trade-off without introducing another model. It works on detecting neurons with contradictory optimization directions from accuracy and fairness training goals, and achieving a trade-off by selective dropout. Comparing with state-of-the-art methods, our approach is lightweight, making it scalable and more efficient. Our evaluation on 3 datasets shows that FairNeuron can effectively improve all models' fairness while maintaining a stable utility.

研究の動機と目的

• 深層ニューラルネットワークにおける公平性と精度のトレードオフを解消すること、特にモデルの公平性と有用性が相反する状況を対象とする。
• 予測に感受性属性（例：人種、性別）に過剰に依存するニューロンや経路を特定し、不公平を引き起こす要因とする。
• 全モデルの再訓練や補助ネットワークの導入を必要とせず、軽量で効率的かつスケーラブルな公平性問題の修復手法を開発すること。
• 経路解析と選択的ドロップを活用した自動的で事後処理可能な公平性修復を可能とし、モデルの有用性を維持すること。

提案手法

• ニューラルネットワークスライシングを用いて、感受性属性に特異的に依存するサブネットワーク（「矛盾経路」）を特定する。
• 経路解析を適用し、矛盾経路の活性化に基づいて入力サンプルをクラスタリングし、バイアスを引き起こす入力を同定する。
• バックプロパゲーション中に矛盾経路外のニューロンをドロップすることで、選択的再訓練を実行し、モデルが非感受性特徴を再考するように誘導する。
• 勾配ベースの解析を用いて、精度と公平性の最適化方向が相反するニューロンを検出する。
• 訓練後に行われる複雑な敵対的訓練やデータオーグメンテーションを回避する、軽量でモデルに依存しない修復手順を導入する。
• 予測精度を維持しつつ、標的的なニューロン抑制によって不公平を最小化する二重目的最適化を採用する。

実験結果

リサーチクエスチョン

• RQ1 DNN 内で感受性属性に過剰に依存することで不正な予測を引き起こす特定のニューロンや経路を検出可能か？
• RQ2 全再訓練を要せず、モデル精度を損なわずに公平性を向上させることは可能か？
• RQ3 経路解析に基づく選択的ニューロンドロップは、軽量かつスケーラブルな形で公平性問題を効果的に緩和できるか？
• RQ4 FairNeuron は最先端の公平性修復手法と比較して、公平性の向上度と効率性の両面で優れているか？

主な発見

• FairNeuron は、3つのベンチマークデータセットで評価されたすべてのモデルにおいて、予測精度を損なわせずに公平性を顕著に向上させた。
• FAD や Ethical Adversaries などの最先端手法と比較して、特に効率性とスケーラビリティの面で優れた公平性向上を達成した。
• 矛盾経路解析に基づく選択的再訓練により、特に全結合層において感受性属性への依存度が低下し、公平性の向上が顕著に見られた。
• 軽量でモデルに依存しないアプローチであるため、敵対的訓練やデータオーグメンテーションが不適切な大規模 DNN に対しても適している。
• 異なる感受性属性グループにおいて、デモグラフィックパリティや等しい機会といった公平性指標において、安定した有用性が確認された。