[논문 리뷰] Intra-Processing Methods for Debiasing Neural Networks

Yash Savani, Colin White외 1명|arXiv (Cornell University)|2020. 06. 15.

Adversarial Robustness in Machine Learning인용 수 9

한 줄 요약

이 논문은 적응 과정 중 모델 가중치를 활용하는 내재 처리(intra-processing)라는 새로운 패러다임을 제안한다. 이는 미세조정된 신경망의 편향을 제거하기 위한 것으로, 랜덤 변동, 계층별 최적화, 적대적 미세조정이라는 세 가지 새로운 방법을 제안하며, 특히 ResNet과 같은 복잡한 모델에서 CelebA 데이터셋을 사용할 때 후처리 기법보다 우월한 공정성 및 정확도의 상호보완적 성능을 보여준다.

ABSTRACT

As deep learning models become tasked with more and more decisions that impact human lives, such as criminal recidivism, loan repayment, and face recognition for law enforcement, bias is becoming a growing concern. Debiasing algorithms are typically split into three paradigms: pre-processing, in-processing, and post-processing. However, in computer vision or natural language applications, it is common to start with a large generic model and then fine-tune to a specific use-case. Pre- or in-processing methods would require retraining the entire model from scratch, while post-processing methods only have black-box access to the model, so they do not leverage the weights of the trained model. Creating debiasing algorithms specifically for this fine-tuning use-case has largely been neglected. In this work, we initiate the study of a new paradigm in debiasing research, intra-processing, which sits between in-processing and post-processing methods. Intra-processing methods are designed specifically to debias large models which have been trained on a generic dataset and fine-tuned on a more specific task. We show how to repurpose existing in-processing methods for this use-case, and we also propose three baseline algorithms: random perturbation, layerwise optimization, and adversarial fine-tuning. All of our techniques can be used for all popular group fairness measures such as equalized odds or statistical parity difference. We evaluate these methods across three popular datasets from the AIF360 toolkit, as well as on the CelebA faces dataset. Our code is available at https://github.com/abacusai/intraprocessing_debiasing.

연구 동기 및 목표

• 사전 및 후처리 기법이 열등한 대안인, 대규모 사전 학습된 모델의 미세조정을 위한 특화된 편향 제거 방법의 격차를 메우기 위해.
• 이미 학습된 모델의 가중치에 액세스할 수 있는 '내재 처리'라는 새로운 유형의 편향 제거 알고리즘 클래스를 개발하기 위해.
• 일반적으로 미세조정되는 모델을 사용하는 실세계 적용 분야(예: 얼굴 인식, 대출 예측)에서 효과적인 공정성 향상을 가능하게 하기 위해.
• AIF360 및 CelebA를 포함한 다양한 공정성 정의와 데이터셋에서 내재 처리 방법을 평가하여 그 강건성과 열등성을 입증하기 위해.
• 모델 복잡성이 증가함에 따라 내재 처리가 후처리 기법보다 공정성-정확도 상호보완적 성능에서 뛰어나다는 것을 입증하기 위해.

제안 방법

• 편향 탐지에 사용할 수 있는 모델 가중치 기반의 비평가(critic)를 학습시켜, 기존의 내재 처리 알고리즘(공정성에 대한 적대적 훈련)을 내재 처리 프레임워크로 재사용하기 위해.
• 반복적으로 네트워크 가중치에 다항성 노이즈를 적용하고, 공정성-정확도 목적 함수를 최대화하는 변동을 선택하는 랜덤 변동 방법을 제안한다.
• 개선된 공정성을 위해 개별 계층을 미세조정하기 위해 기울기 부스팅 회귀 트리(GBRT)를 사용하는 계층별 최적화를 도입한다.
• 편향을 직접 측정할 수 있는 기반 가중치 기반의 유사 공정성 지표를 설계하며, 이는 기울기 기반 최적화를 가능하게 한다.
• 모든 내재 처리 방법에 공통적으로 사용되는 목적 함수를 정의하며, 정확도와 공정성 간의 상호보완적 성능(예: 식 1, ε=0.05)을 반영한다.
• 모든 방법을 사전 학습된 모델(예: ImageNet에서의 ResNet18)에 적용하여, CelebA에서 '젊은' 또는 '웃는' 등의 분류 작업과 같은 하류 작업에 대해 미세조정한다.

실험 결과

연구 질문

• RQ1 내재 처리 방법은 다시 학습하지 않고도 미세조정된 신경망의 편향을 효과적으로 줄일 수 있는가?
• RQ2 다양한 데이터셋에서 내재 처리 방법의 공정성-정확도 상호보완적 성능이 후처리 기법과 비교해 어떻게 나타나는가?
• RQ3 초기 무작위 가중치 초기화가 미세조정된 모델의 편향에 상당한 영향을 미치는가? 이는 편향 제거 효과에 어떤 영향을 미치는가?
• RQ4 다양한 내재 처리 기법들(랜덤 변동, 계층별 최적화, 적대적 미세조정)이 모델 및 데이터셋 복잡성에 어떻게 스케일링되는가?
• RQ5 내재 처리 방법이 공정성과 정확도를 동시에 향상시켜 후처리 기법에 대해 파레토 최적을 달성할 수 있는가?

주요 결과

• 내재 처리 방법은 후처리 기법보다 공정성 지표에서 뚜렷이 뛰어나며, 후처리 기법 전용으로 설계된 지표(예: 동등한 오차 후처리)까지도 초월한다.
• CelebA 데이터셋에서 ResNet18을 사용한 결과, 적대적 미세조정은 균형 정확도 0.914(시드 1)를 달성하여 기본 모델(0.819)과 후처리 기법을 모두 능가했다.
• 다양한 무작위 시드에 따른 편향의 분산은 정확도의 분산보다 상당히 높았으며, 이는 초기 모델 가중치가 공정성 결과에 강력한 영향을 미친다는 것을 시사한다.
• 복잡한 모델과 데이터셋(예: CelebA에서의 ResNet)에서는 적대적 미세조정이 랜덤 변동 및 계층별 최적화와 같은 단순한 방법보다 일관되게 뛰어난 성능을 보였다.
• 내재 처리 방법은 정확도를 유지하거나 향상시키면서도 편향 점수를 낮추어, 여러 설정에서 후처리 기법에 대해 파레토 지배를 달성했다.
• 정규화는 특히 데이터셋 크기가 제한된 경우에 테스트 세트 간의 편향 점수 안정성을 높여, 편향 제거 성능의 일관성을 향상시켰다.