[논문 리뷰] Fairness Reprogramming

Guanhua Zhang, Yihua Zhang외 5명|arXiv (Cornell University)|2022. 09. 21.

Insurance, Mortality, Demography, Risk Management인용 수 6

한 줄 요약

이 논문은 고정된 기계 학습 모델의 공정성 향상을 위해 입력에 학습 가능한 공정성 트리거를 첨부하고, 인구 통계적 편향을 은폐하기 위해 최소-최대 최적화를 사용하는 후처리 프레임워크인 FairReprogram을 제안한다. 재학습 기반 방법에 비해 낮은 계산 비용과 최소한의 정확도 손실로 뛰어난 공정성 향상을 달성하며, 특히 현실 세계의 편향을 포함한 NLP 및 컴퓨터 비전 벤치마크에서 유의미한 성능 향상을 보인다.

ABSTRACT

Despite a surge of recent advances in promoting machine Learning (ML) fairness, the existing mainstream approaches mostly require retraining or finetuning the entire weights of the neural network to meet the fairness criteria. However, this is often infeasible in practice for those large-scale trained models due to large computational and storage costs, low data efficiency, and model privacy issues. In this paper, we propose a new generic fairness learning paradigm, called FairReprogram, which incorporates the model reprogramming technique. Specifically, FairReprogram considers the case where models can not be changed and appends to the input a set of perturbations, called the fairness trigger, which is tuned towards the fairness criteria under a min-max formulation. We further introduce an information-theoretic framework that explains why and under what conditions fairness goals can be achieved using the fairness trigger. We show both theoretically and empirically that the fairness trigger can effectively obscure demographic biases in the output prediction of fixed ML models by providing false demographic information that hinders the model from utilizing the correct demographic information to make the prediction. Extensive experiments on both NLP and CV datasets demonstrate that our method can achieve better fairness improvements than retraining-based methods with far less data dependency under two widely-used fairness criteria. Codes are available at https://github.com/UCSB-NLP-Chang/Fairness-Reprogramming.git.

연구 동기 및 목표

• 재학습 기반 공정성 방법의 한계를 해결하기 위해, 계산 비용이 높고 대규모 비공개 모델에 대해 적용이 불가능한 문제를 해결하기 위함.
• 모델 가중치를 수정하지 않고도 모델 재프로그래밍 기법을 공정성 목표에 적응시킬 수 있는지 탐색하기 위함.
• 다양한 작업과 도메인에 적용 가능한 일반적이고 확장 가능하며 프라이버시를 보장하는 공정성 프레임워크를 개발하기 위함.
• 상수 형태의 공정성 트리거가 모델 예측에서 인구 통계적 편향을 효과적으로 감소시키는 조건을 이론적으로 설명하기 위함.
• 입력 수준의 변형이 전체 모델 피넷팅보다 더 나은 정확도-공정성 트레이드오프를 달성할 수 있음을 입증하기 위함.

제안 방법

• 모델 행동을 공정성 향향 재프로그래밍하기 위해 입력에 첨부되는 고정된 학습 가능한 변형인 공정성 트리거를 도입한다.
• 공정성 위반을 최소화하면서 예측 성능 유지를 위해 트리거를 최적화하는 최소-최대 최적화 프레임워크를 사용한다.
• 정보 이론적 프레임워크를 제안하여 공정성 트리거가 모델의 진짜 인구 통계 정보 사용 방식을 어떻게 방해하는지 분석한다.
• 분리된 특징 가정(Y 및 Z와 관련된 특징)을 사용하여 트리거가 인구 통계적 편향을 어떻게 은폐하는지 수학적으로 기반을 마련한다.
• 실제 세계의 편향을 포함한 데이터셋을 사용하여 자연어 처리(NLP) 및 컴퓨터 비전 작업에 이 방법을 적용한다.
• 입력 트리거를 최적화하는 방식으로, 처리 중 공정성 방법과 유사한 적대적 손실 항목을 사용하지만, 모델 파라미터가 아닌 입력을 최적화한다.

실험 결과

연구 질문

• RQ1 고정된 기계 학습 모델에서 모델 재프로그래밍 기법을 공정성 목표에 효과적으로 적용할 수 있는가?
• RQ2 왜 그리고 어떤 조건에서 상수 형태의 입력 트리거가 모델 예측에서 인구 통계적 편향을 성공적으로 감소시킬 수 있는가?
• RQ3 재학습 기반 방법에 비해 공정성 향상과 정확도 트레이드오프 측면에서 공정성 트리거는 어떻게 비교되는가?
• RQ4 재학습 없이도 다양한 데이터셋과 작업 간에 공정성 트리거를 이식할 수 있는가?
• RQ5 고정된 입력 변형이 모델의 인구 통계적 속성 의존도를 방해할 수 있는 이론적 조건은 무엇인가?

주요 결과

• CelebA 데이터셋에서 두 가지 공정성 기준 하에 FairReprogram는 재학습 기반 기준보다 편향 점수를 각각 10.5%와 36.5% 낮게 기록했으며, 정확도는 유사하게 유지되었다.
• 이 방법은 강력한 이식성(transferability)을 보이며, 재학습 없이 다양한 NLP 및 CV 벤치마크에서 높은 공정성 향상을 유지한다.
• 공정성 트리거는 진짜 인구 통계 정보를 은폐하기 위해 가짜 인구 통계 신호를 주입하여 모델이 민감한 속성에 의존하는 정도를 감소시킨다.
• 이론적 분석을 통해 트리거가 가짜 인구 통계 신호에 대해 높은 신뢰도를 가질 경우, 모델의 예측 분포가 목표 공정성 분포로 수렴함을 확인했다.
• 특히 데이터가 적은 환경이나 모델 파라미터에 대한 액세스가 제한된 조건에서 재학습 기반 방법보다 더 나은 정확도-공정성 트레이드오프를 달성한다.
• 이 방법은 계산적으로 효율적이며 확장 가능하며, 모델 가중치나 기울기 접근 없이 입력 수준의 수정만으로도 구현 가능하다.