[논문 리뷰] FairNeuron: Improving Deep Neural Network Fairness with Adversary Games on Selective Neurons

Xuanqi Gao, Juan Zhai외 4명|arXiv (Cornell University)|2022. 04. 06.

Adversarial Robustness in Machine Learning인용 수 4

한 줄 요약

FairNeuron는 경로 분석과 선택적 재학습을 통해 민감한 특성에 과도하게 의존하는 '갈등 경로'에서의 신경망을 식별하고 선택적으로 제거함으로써 딥 네ural 네트워크의 공정성을 향상시키는 경량의 후행 방법이다. 전체 모델을 재학습하지 않고도 정확성과 공정성의 균형을 효과적으로 유지하며, 다양한 데이터셋에서 최신 기술 대비 효율성과 확장성에서 뛰어난 성능을 발휘한다.

ABSTRACT

With Deep Neural Network (DNN) being integrated into a growing number of critical systems with far-reaching impacts on society, there are increasing concerns on their ethical performance, such as fairness. Unfortunately, model fairness and accuracy in many cases are contradictory goals to optimize. To solve this issue, there has been a number of work trying to improve model fairness by using an adversarial game in model level. This approach introduces an adversary that evaluates the fairness of a model besides its prediction accuracy on the main task, and performs joint-optimization to achieve a balanced result. In this paper, we noticed that when performing backward propagation based training, such contradictory phenomenon has shown on individual neuron level. Based on this observation, we propose FairNeuron, a DNN model automatic repairing tool, to mitigate fairness concerns and balance the accuracy-fairness trade-off without introducing another model. It works on detecting neurons with contradictory optimization directions from accuracy and fairness training goals, and achieving a trade-off by selective dropout. Comparing with state-of-the-art methods, our approach is lightweight, making it scalable and more efficient. Our evaluation on 3 datasets shows that FairNeuron can effectively improve all models' fairness while maintaining a stable utility.

연구 동기 및 목표

• 모델의 공정성과 유효성 간의 상충 관계가 발생할 때, 특히 공정성과 유효성이 충돌하는 상황에서 딥 네럴 네트워크의 정확성과 공정성 간의 균형을 해결하기 위함.
• 예측에 민감한 특성(예: 인종, 성별)에 과도하게 의존하는 신경망과 경로를 탐지하여 불공정성을 유발하는 원인를 규명하기 위함.
• 전체 모델을 재학습하거나 보조 네트워크를 도입하지 않고도 경량적이고 효율적이며 확장 가능한 공정성 문제 수정 방법을 개발하기 위함.
• 경로 분석과 선택적 드롭아웃을 통한 자동적, 후기 공정성 보정을 가능하게 하여 모델 유효성을 유지하기 위함.

제안 방법

• 민감한 특성을 선택적으로 사용하는 하위 네트워크인 갈등 경로를 식별하기 위해 신경망 슬라이싱 기법을 활용한다.
• 경로 분석을 적용하여 갈등 경로의 활성화 기반으로 입력 샘플을 군집화하고, 불공정성을 유발하는 입력을 식별한다.
• 역전파 동안 갈등 경로 외부의 신경망을 드롭아웃하여 선택적 재학습을 수행함으로써 모델이 비민감한 특성에 다시 주목하도록 유도한다.
• 기울기 기반 분석을 활용하여 정확성과 공정성 목표 간에 충돌하는 최적화 방향을 가진 신경망을 탐지한다.
• 복잡한 적대적 학습이나 데이터 증강을 피하기 위해 학습 후 작동하는 간편하고 모델에 종속되지 않는 수리 절차를 도입한다.
• 예측 정확성 유지를 유지하면서도 공정성 최소화를 위한 타겟된 신경망 억제를 통한 이중 목적 최적화를 수행한다.

실험 결과

연구 질문

• RQ1 딥 네럴 네트워크 내에서 민감한 특성에 과도하게 의존하는 특정 신경망과 경로를 탐지할 수 있는가?
• RQ2 전체 재학습이 필요 없이 정확성 저하 없이 공정성을 향상시킬 수 있는가?
• RQ3 경로 분석 기반의 선택적 신경망 드롭아웃이 갈등 경로를 통해 경량적이고 확장 가능한 방식으로 공정성 문제를 효과적으로 완화할 수 있는가?
• RQ4 FairNeuron는 최신 기술 대비 공정성 향상과 효율성 측면에서 어떻게 비교되는가?

주요 결과

• FairNeuron는 세 가지 벤치마크 데이터셋에서 평가된 모든 모델에서 정확도 저하 없이 공정성을 크게 향상시켰다.
• FAD 및 윤리적 적대자와 같은 최신 기술 대비 효율성과 확장성 측면에서 뛰어난 공정성 향상 성능을 달성했다.
• 갈등 경로 분석 기반의 선택적 재학습은 특히 완전 연결 층에서 민감한 특성에 대한 의존도를 감소시켜 공정성 향상에 기여했다.
• 이 방법은 경량적이고 모델에 종속되지 않아, 적대적 학습이나 데이터 증강이 비현실적인 대규모 DNN에 적합하다.
• 다양한 민감한 특성 그룹에 대해, 인구 통계적 평등성과 동일 기회와 같은 공정성 지표에서 일관된 유효성 유지가 확인되었다.