[논문 리뷰] Last-Layer Fairness Fine-tuning is Simple and Effective for Neural Networks

Yuzhen Mao, Zhun Deng외 4명|arXiv (Cornell University)|2023. 04. 08.

Welding Techniques and Residual Stresses인용 수 4

한 줄 요약

이 논문은 사전에 훈련된 모델의 마지막 레이어만 미세조정하면서 공정성 제약 조건과 데이터 재가중을 적용함으로써, 간단하면서도 효과적인 공정한 딥 네ural 네트워크 훈련 방법을 제안한다. 이 방법은 공정성 기준에 대한 과적합을 크게 줄이고, 벤치마크 데이터셋에서 최신 기술 수준의 공정성-정확도 트레이드오프를 달성하며, 전체 네트워크 미세조정 및 기타 베이스라인보다 뛰어난 성능을 보인다.

ABSTRACT

As machine learning has been deployed ubiquitously across applications in modern data science, algorithmic fairness has become a great concern. Among them, imposing fairness constraints during learning, i.e. in-processing fair training, has been a popular type of training method because they don't require accessing sensitive attributes during test time in contrast to post-processing methods. While this has been extensively studied in classical machine learning models, their impact on deep neural networks remains unclear. Recent research has shown that adding fairness constraints to the objective function leads to severe over-fitting to fairness criteria in large models, and how to solve this challenge is an important open question. To tackle this, we leverage the wisdom and power of pre-training and fine-tuning and develop a simple but novel framework to train fair neural networks in an efficient and inexpensive way -- last-layer fine-tuning alone can effectively promote fairness in deep neural networks. This framework offers valuable insights into representation learning for training fair neural networks.

연구 동기 및 목표

• 과도하게 파rameter화된 딥 네럴 네트워크에서 내처리 훈련 중 공정성 과적합 문제를 해결하기 위해.
• 사전에 훈련된 모델의 마지막 레이너만 미세조정하는 것이 전체 네트워크 재학습 없이도 공정성을 효과적으로 향상시킬 수 있는지 탐색하기 위해.
• 마지막 레이어 미세조정에서 데이터 재가중과 공정성 제약 조건을 결합함으로써 공정성 일반화를 향상시키는 효과를 평가하기 위해.
• 제안된 방법이 소스 도메인에서 훈련된 표현을 기반으로 하여 도메인 외부 데이터로 일반화되는지 조사하기 위해.

제안 방법

• 표준 경험적 리스크 최소화를 사용하여 소스 데이터셋에서 딥 네럴 네트워크를 사전 훈련하여 강력한 표현을 학습한다.
• 모든 다른 레이어를 동결한 상태에서 마지막 분류 레이어만 공정성 제약 조건이 적용된 목적 함수를 사용하여 미세조정한다.
• 마지막 레이어 미세조정 중에 데이터 재가중을 적용하여 훈련 데이터 내 소수 집단과 다수 집단 간 균형을 맞춘다.
• 마지막 레이어에서 공정성 정규화 목적 함수를 최적화하기 위해 확률적 경사 하강법과 운동량, 가중치 감소를 사용한다.
• 공정성과 정확도를 함께 평가할 수 있는 새로운 공정성-정확도 하이브리드 지표(AF)를 도입한다.
• 등수 기반 공정성 개념들인 동일한 오차 차이, 정확도 동일성 차이, 최악의 정확도를 포함하여 여러 공정성 기준에서 방법을 평가한다.

실험 결과

연구 질문

• RQ1 공정성 제약 조건이 적용된 마지막 레이어 미세조정은 대규모 신경망에서 공정성 목표에 대한 과적합을 효과적으로 완화할 수 있는가?
• RQ2 데이터 재가중을 마지막 레이어 미세조정과 결합하면 불균형 데이터셋에서 공정성 일반화가 향상되는가?
• RQ3 공정성과 정확도 측면에서 전체 네트워크 미세조정과 비교해 볼 때 마지막 레이어 미세조정의 성능는 어떠한가?
• RQ4 표현이 소스 도메인에서 훈련된 경우, 제안된 방법이 도메인 외부 데이터로 일반화되는가?
• RQ5 오직 마지막 레이너만 미세조정하는 것이 깊은 레이어를 미세조정하는 것보다 모델의 강건성을 유지하거나 향상시키는가?

주요 결과

• FDR(Fine-tuning with Data Reweighting)는 최악의 정확도 지표에서 공정성-정확도(AF) 점수 1.701을 기록하여 모든 베이스라인을 압도했다.
• FDR 방법은 테스트 데이터에서 동일한 오차 차이(EO_Diff)를 0.107로 낮춰, FullFT-Reg(0.499)와 LastFT-Reg(0.153)보다 유의미하게 낮췄다.
• 마지막 레이어 미세조정은 훈련 및 테스트 공정성 지표 간 일반화 갭을 줄여, 전체 네트워크 훈련보다 과적합이 적다는 것을 시사했다.
• FDR는 테스트 WACC 0.892와 AUC 0.958를 기록하여 강력한 예측 성능를 유지하면서도 높은 공정성을 확보했다.
• 이 방법은 도메인 외부 데이터로도 잘 일반화되어 전이 학습 설정에서도 강건성을 보였다.
• 공정성 제약 조건이 적용된 마지막 레이어만의 미세조정은 과적합이 감소함에 따라 정확도가 낮아도 전체 네트워크 미세조정보다 더 나은 공정성 지표를 달성했다.