[논문 리뷰] Estimating and Improving Fairness with Adversarial Learning

Xiaoxiao Li, Ziteng Cui외 3명|arXiv (Cornell University)|2021. 03. 07.

Adversarial Robustness in Machine Learning참고 문헌 25인용 수 18

한 줄 요약

이 논문은 딥러닝 기반 의료 영상 분석에서 편향을 동시에 완화하고 공정성을 예측하는 적대적 다중작업 학습 프레임워크를 제안한다. 수직성 정규화를 통해 편향 탐지 모듈과 공정성 핵심 모듈을 공동으로 훈련시킴으로써, 성별, 연령, 피부색 등의 인구통계학적 편향을 줄이고, 민감한 속성에 대한 접근 없이도 공정한 성능 평가를 가능하게 하여 피부병변 데이터셋에서 최신 기술 수준의 공정성 향상을 달성한다.

ABSTRACT

Fairness and accountability are two essential pillars for trustworthy Artificial Intelligence (AI) in healthcare. However, the existing AI model may be biased in its decision marking. To tackle this issue, we propose an adversarial multi-task training strategy to simultaneously mitigate and detect bias in the deep learning-based medical image analysis system. Specifically, we propose to add a discrimination module against bias and a critical module that predicts unfairness within the base classification model. We further impose an orthogonality regularization to force the two modules to be independent during training. Hence, we can keep these deep learning tasks distinct from one another, and avoid collapsing them into a singular point on the manifold. Through this adversarial training method, the data from the underprivileged group, which is vulnerable to bias because of attributes such as sex and skin tone, are transferred into a domain that is neutral relative to these attributes. Furthermore, the critical module can predict fairness scores for the data with unknown sensitive attributes. We evaluate our framework on a large-scale public-available skin lesion dataset under various fairness evaluation metrics. The experiments demonstrate the effectiveness of our proposed method for estimating and improving fairness in the deep learning-based medical image analysis system.

연구 동기 및 목표

• 딥러닝 기반 의료 영상 분석에서 편향 완화 및 공정성 책임성의 부족을 해결하기 위해.
• 추론 시 민감한 속성에 대한 명시적 접근 없이도 모델 예측의 편향을 탐지하고 감소시키는 방법을 개발하기 위해.
• 적대적 학습을 통해 훈련된 핵심 모듈을 사용하여 배포된 모델에 대한 실시간 공정성 평가를 가능하게 하기 위해.
• 다중작업 학습에서 수직성 정규화를 통해 공정성 및 편향 탐지 작업 간의 독립성을 보장하기 위해.
• 공정성 향상과 모델 책임성 모두를 지원하는 신뢰할 수 있는 의료 AI를 위한 실용적이고 일반화 가능한 솔루션을 제공하기 위해.

제안 방법

• 공유된 특징 인코더, 편향 탐지 헤드, 공정성 핵심 예측 헤드를 갖춘 다중작업 적대적 훈련 프레임워크를 도입한다.
• 민감한 속성(예: 성별, 피부색)에 기반해 우월한 집단과 열등한 집단의 샘플을 구분하는 디스크림이너 헤드를 활용한다.
• 민감한 속성 또는 진짜 레이블을 알지 못한 채 입력 데이터의 공정성 점수(예: SPD, EOD, AOD)를 예측하는 핵심 모듈을 훈련한다.
• 두 헤드의 기울기 간 수직성을 강제하기 위해 수직성 정규화를 적용하여 편향 탐지 및 공정성 예측 작업 간의 독립성을 확보한다.
• 분류용과 공정성 평가용의 두 분기 네트워크를 사용하며, 공유된 합성곱 특징과 별도의 풀커넥티드 헤드를 갖춘다.
• 편향 디스크림이너에서 시그모이드 활성화 함수를 사용하고, 핵심 모듈의 공정성 점수 예측에 배치별 평균을 적용한다.

실험 결과

연구 질문

• RQ1 민감한 속성에 접근하지 않고도 적대적 훈련을 통해 의료 영상 분류에서 편향 완화와 공정성 예측을 동시에 수행할 수 있는가?
• RQ2 수직성 정규화는 편향 탐지 및 공정성 예측 작업 간의 독립성을 유지하는 데 얼마나 효과적인가?
• RQ3 제안된 프레임워크는 피부병변 분류에서 SPD, EOD, AOD와 같은 공정성 지표를 어느 정도 감소시킬 수 있는가?
• RQ4 민감한 속성이 알려지지 않은 상태에서도 핵심 모듈이 미리 보지 않은 추론 데이터에 대해 공정성 점수를 정확하게 예측할 수 있는가?
• RQ5 공정성 향상과 함께 분류 성능도 유지하거나 향상시키는가?

주요 결과

• 수직성 정규화를 적용한 제안된 방법('Ours w/ 𝒪𝑟𝑡ℎ')은 기존 모델보다 훨씬 낮은 공정성 점수(SPD: 0.019, EOD: 0.014, AOD: 0.113)를 기록하여 편향 완화 성능이 뛰어나다는 것을 보여주었다.
• 수직성 정규화 없이 훈련한 경우('Ours w/o 𝒪𝑟𝑡ℎ') 공정성 점수가 높아졌으며(SPD: 0.25–0.38), 이는 정규화가 효과적인 편향 감소를 위해 필수적임을 시사한다.
• 수직성 정규화를 적용한 핵심 모듈은 예측된 점수와 진짜 SPD 점수 간 피어슨 상관계수 0.85를 기록하여 정확한 공정성 평가가 가능함을 입증하였다.
• 기존 베이스라인 모델과 비교해 분류 성능은 유지하거나 약간 향상되었으며, 이는 유용성의 상당한 희생 없이도 성능이 유지됨을 의미한다.
• 수직성 정규화를 사용할 경우 성별 및 피부색 속성에 대해 예측된 공정성 점수가 진짜 값과 매우 유사하게 나타났으며, 정규화 없이 예측한 경우는 체계적으로 과대평가되는 경향을 보였다.
• 기울기 수직성에 의해 강제된 독립성 덕분에 공정성 예측과 편향 탐지 간의 분리가 성공적으로 이루어졌으며, 이는 더 신뢰할 수 있는 공정성 평가로 이어졌다.