[논문 리뷰] Ethical Adversaries: Towards Mitigating Unfairness with Adversarial Machine Learning

Pieter Delobelle, Paul Temple외 4명|Repository of the University of Namur|2020. 05. 14.

Ethics and Social Impacts of AI참고 문헌 41인용 수 10

한 줄 요약

이 논문은 기계학습 모델의 부당성 문제를 완화하기 위해 기울기 반전과 반복적 휘성 공격을 결합한 새로운 적대적 프레임워크를 제안한다. 보호된 특성(protected attributes)을 추측하는 능력을 줄이기 위해 적대적 예제를 사용하면서도 모델을 훈련시켜 공정성을 향상시키는 방법으로, COMPAS, 독일 신용, Adult 데이터셋에서 인구 통계적 평등성과 동등 기회 기준으로 최신 기술을 초월하는 성능을 달성하며, 유틸리티 손실은 최소화한다.

ABSTRACT

Machine learning is being integrated into a growing number of critical systems with far-reaching impacts on society. Unexpected behaviour and unfair decision processes are coming under increasing scrutiny due to this widespread use and its theoretical considerations. Individuals, as well as organisations, notice, test, and criticize unfair results to hold model designers and deployers accountable. We offer a framework that assists these groups in mitigating unfair representations stemming from the training datasets. Our framework relies on two inter-operating adversaries to improve fairness. First, a model is trained with the goal of preventing the guessing of protected attributes' values while limiting utility losses. This first step optimizes the model's parameters for fairness. Second, the framework leverages evasion attacks from adversarial machine learning to generate new examples that will be misclassified. These new examples are then used to retrain and improve the model in the first step. These two steps are iteratively applied until a significant improvement in fairness is obtained. We evaluated our framework on well-studied datasets in the fairness literature -- including COMPAS -- where it can surpass other approaches concerning demographic parity, equality of opportunity and also the model's utility. We also illustrate our findings on the subtle difficulties when mitigating unfairness and highlight how our framework can assist model designers.

연구 동기 및 목표

• 기계학습 모델의 자원 배분 불공정성, 특히 고위험 의사결정 시스템에서의 문제를 해결하기 위해.
• 모델 유틸리티를 크게 떨어뜨리지 않고도 공정성을 향상시키는 프레임워크를 개발하기 위해.
• 특히 휘성 공격 기반의 적대적 기계학습 기법을 활용하여 공정성 완화를 탐색하기 위해.
• 실제 공정성 기준 데이터셋인 COMPAS, 독일 신용, Adult에서 프레임워크를 평가하기 위해.
• 반복적 적대적 예제 생성이 모델 표현 내 숨겨진 불공정성을 드러내고 수정하는 데 기여할 수 있음을 입증하기 위해.

제안 방법

• 프레임워크는 두 가지 상호작용하는 적대적 요소를 사용한다: 기울기 반전을 통해 보호된 특성 예측 능력을 최소화하는 적대적 독자.
• 적대적 피더는 적대적 예제를 생성하여 모델을 오도하는 휘성 공격을 수행하며, 이를 다시 분류기의 재학습에 활용한다.
• 적대적 훈련을 통해 공정성을 향상시키고, 동시에 입력 공간의 미탐색 영역을 탐색하기 위해 휘성 공격 생성을 번갈아가며 수행한다.
• 휘성 공격에 사용되는 서브모델은 적대적 편향을 타겟 모델로 전이할 수 있도록 기울기 기반 최적화를 활용해 훈련된다.
• 반복적으로 프레임워크를 적용하여 공격과 재학습의 차례를 반복함으로써 모델의 공정성과 강건성을 점진적으로 향상시킨다.
• 유틸리티 평가에는 이진 분류 정확도와 매크로 평균 F1 스코어를, 공정성 평가에는 인구 통계적 평등성(DP, DPR)과 동등 기회(EO)를 사용한다.

실험 결과

연구 질문

• RQ1 적대적 휘성 공격는 기계학습 모델의 공정성 향상에 효과적으로 재활용될 수 있는가?
• RQ2 기울기 반전과 반복적 적대적 예제 생성을 조합하면 기존 방법보다 더 나은 공정성-유틸리티 트레이드오프를 달성하는가?
• RQ3 COMPAS와 독일 신용과 같이 알려진 공정성 문제를 가진 실세계 데이터셋에서 프레임워크는 어떤 성능을 보이는가?
• RQ4 모델 유틸리티를 손상시키지 않고도 자원 배분 피해를 탐지하고 수정할 수 있는가?
• RQ5 이식 가능한 적대적 예제는 공정성 완화에서 입력 공간의 커버리지 확대에 어느 정도 기여하는가?

주요 결과

• COMPAS 데이터셋에서 프레임워크는 최고 수준의 인구 통계적 평등성(DP)을 달성했으며, 동등 기회 불균형(EO = 0.008)을 크게 감소시켜 베이스라인 및 GRL을 능가했다.
• 독일 신용 데이터셋에서는 높은 유틸리티를 유지하면서도 공정성 지표(DPR = 0.926)를 향상시켰고, 정확도와 F1 스코어가 모두 베이스라인을 초월했다.
• Adult 데이터셋에서는 공정성 제약이 있는 모델들 중에서 가장 높은 유틸리티를 기록했으며, DP와 EO 모두에서 뚜렷한 공정성 향상을 보였다.
• 프레임워크는 기울기 반전만으로는 공정성이 충분히 확보되지 않음을 입증했지만, 적대적 예제 생성과 조합하면 내재적으로 더 공정한 모델을 만들어낼 수 있음을 보여주었다.
• 반복적인 휘성 공격 사용은 이전에 발견되지 않은 입력 공간 영역을 드러내어 모델의 강건성과 공정성을 향상시켰다.
• 오픈소스 구현은 https://github.com/iPieter/ethical-adversaries에서 MIT 라이선스 하에 이용 가능하다.