[논문 리뷰] Fast Model Debias with Machine Unlearning

Ruizhe Chen, Jianfei Yang외 8명|arXiv (Cornell University)|2023. 10. 19.

Ethics and Social Impacts of AI인용 수 6

한 줄 요약

이 논문은 대체 데이터와 영향 함수를 사용하여 사전 훈련된 모델의 편향을 식별, 평가하고 제거하는 새로운 프레임워크인 Fast Model Debiasing(FMD)을 제안한다. 이는 원본 훈련 데이터에 접근할 필요 없이 최소한의 파라미터 업데이트로 효율적인 편향 제거를 가능하게 하며, 전체 모델의 상위 레이어만 미세조정함으로써 높은 성능을 달성한다. FMD는 재훈련이 불가능한 대규모 모델 환경에서도 계산 비용과 편향을 크게 줄이며 최신 기술 수준의 공정성을 달성한다.

ABSTRACT

Recent discoveries have revealed that deep neural networks might behave in a biased manner in many real-world scenarios. For instance, deep networks trained on a large-scale face recognition dataset CelebA tend to predict blonde hair for females and black hair for males. Such biases not only jeopardize the robustness of models but also perpetuate and amplify social biases, which is especially concerning for automated decision-making processes in healthcare, recruitment, etc., as they could exacerbate unfair economic and social inequalities among different groups. Existing debiasing methods suffer from high costs in bias labeling or model re-training, while also exhibiting a deficiency in terms of elucidating the origins of biases within the model. To this respect, we propose a fast model debiasing framework (FMD) which offers an efficient approach to identify, evaluate and remove biases inherent in trained models. The FMD identifies biased attributes through an explicit counterfactual concept and quantifies the influence of data samples with influence functions. Moreover, we design a machine unlearning-based strategy to efficiently and effectively remove the bias in a trained model with a small counterfactual dataset. Experiments on the Colored MNIST, CelebA, and Adult Income datasets along with experiments with large language models demonstrate that our method achieves superior or competing accuracies compared with state-of-the-art methods while attaining significantly fewer biases and requiring much less debiasing cost. Notably, our method requires only a small external dataset and updating a minimal amount of model parameters, without the requirement of access to training data that may be too large or unavailable in practice.

연구 동기 및 목표

• 대규모 모델에서 재훈련하거나 편향을 레이블링하는 데 드는 높은 비용과 비현실적인 문제를 해결하기 위해.
• 원본 훈련 데이터에 접근하지 않고도 사전 훈련된 모델의 편향을 식별하고 정량화하기 위해.
• 성능 저하와 낮은 계산 비용으로 뛰어난 공정성을 달성하는 후처리 편향 제거 방법을 개발하기 위해.
• 외부의 소규모 대체 샘플 데이터셋만을 사용하여 효과적인 편향 제거를 가능하게 하기 위해.

제안 방법

• FMD는 사실적 및 대체적 샘플 쌍을 구성하여 속성 변화에 따른 예측 변화를 관찰함으로써 편향된 속성을 명시적으로 식별한다.
• 영향 함수를 확장하여 개별 훈련 샘플이 모델 편향에 미치는 영향을 정량화함으로써 해로운 훈련 예제를 정밀하게 특정한다.
• 뉴턴 단계 기반의 미학습 기법을 적용하여 소수의 모델 파라미터만 업데이트함으로써 편향된 상관관계를 제거한다.
• 원본 훈련 데이터에 의존하지 않는 외부 대체 샘플 쌍을 사용하는 대안적 미학습 전략을 도입하여 실용성을 향상시킨다.
• 사전 훈련된 모델의 상위 MLP 레이어만 미세조정하여 계산 오버헤드를 최소화한다.
• 기계적 미학습 기법을 활용하여 정확도를 유지하면서도 효율적으로 편향을 제거한다.

Figure 1: Pipeline of our proposed FMD.

실험 결과

연구 질문

• RQ1 원본 훈련 데이터에 접근하거나 광범위한 레이블링이 없는 조건에서 사전 훈련된 모델의 편향을 식별할 수 있는가?
• RQ2 개별 훈련 샘플이 모델 편향에 미치는 영향을 어떻게 정량화할 수 있는가?
• RQ3 소규모 외부 대체 예시 데이터셋만으로 효과적으로 편향을 제거할 수 있는가?
• RQ4 전체 재훈련이나 후처리 방법에 비해 일부 레이어의 파라미터 업데이트를 통한 미학습 방식이 공정성과 정확성 측면에서 뛰어나게 되는가?
• RQ5 이 프레임워크는 대규모 언어 모델과 다양한 공정성 메트릭에 일반화될 수 있는가?

주요 결과

• 편향 강도가 0.99인 Color MNIST 데이터셋에서 FMD는 83.49%의 정확도와 편향(Co) 0.1438을 달성하여 EqOdd(82.71% 정확도, 0.5991 Co)와 CEqOdd(83.22% 정확도, 0.4469 Co)를 능가했다.
• Adult Income 데이터셋에서 FMD는 인종 속성 기준으로 편향(De)을 0.0367로 줄였으며, Reject의 0.1825와 EqOdd의 0.7288에 비해 유의미하게 낮았다.
• 성별 속성 기준으로 FMD는 편향(Co)을 0.0019로 달성하여 CEqOdd(0.0047)와 EqOdd(0.0247)보다 훨씬 낮게 유지했다.
• 성별 속성에 대한 미학습에 FMD는 0.0389초만 소요되었으며, Reject의 14.42초에 비해 훨씬 적은 시간이 소요되었다.
• 단절 분석 결과, 상위 두 개의 MLP 레이어만 업데이트했을 때 Color MNIST에서 가장 높은 정확도(83.49%)를 기록했으며, 세 레이어의 미세조정은 성능 저하를 초래했다.
• 5,000개의 대체 샘플을 넘어서는 시점부터 성능이 안정화되어 이 이상의 샘플은 수익 감소 효과를 보였다.

Figure 2: Visualization of factual and counterfactual pairs for three datasets.