[논문 리뷰] Fair Normalizing Flows

Mislav Balunović, Anian Ruoss외 1명|arXiv (Cornell University)|2021. 06. 10.

Adversarial Robustness in Machine Learning인용 수 5

한 줄 요약

Fair Normalizing Flows (FNF)는 민감한 그룹의 잠재 분포 간 통계적 거리 최소화를 통해 공정한 표현을 학습하는 새로운 방법이다. 정규화 플로로 모델링된 인코더를 통해 정확한 우도 계산이 가능해지며, 이는 적대적 정확도의 증명 가능한 상한선(≤ (1+∆)/2)을 제공하여 민감한 속성이 랜덤 추측 수준을 초월해 복원될 수 없음을 보장한다. 이와 동시에 하류 작업에 대한 높은 유용성도 유지한다.

ABSTRACT

Fair representation learning is an attractive approach that promises fairness of downstream predictors by encoding sensitive data. Unfortunately, recent work has shown that strong adversarial predictors can still exhibit unfairness by recovering sensitive attributes from these representations. In this work, we present Fair Normalizing Flows (FNF), a new approach offering more rigorous fairness guarantees for learned representations. Specifically, we consider a practical setting where we can estimate the probability density for sensitive groups. The key idea is to model the encoder as a normalizing flow trained to minimize the statistical distance between the latent representations of different groups. The main advantage of FNF is that its exact likelihood computation allows us to obtain guarantees on the maximum unfairness of any potentially adversarial downstream predictor. We experimentally demonstrate the effectiveness of FNF in enforcing various group fairness notions, as well as other attractive properties such as interpretability and transfer learning, on a variety of challenging real-world datasets.

연구 동기 및 목표

• 기존의 공정한 표현 학습 방법은 잠재 표현에서 민감한 속성을 강력한 적대자들이 복원할 수 있다는 한계를 지닌다.
• 학습된 표현에서 민감한 속성을 정확히 추론할 수 없는 다운스트림 예측기가 존재하도록 보장함으로써 증명 가능한 공정성 보장을 제공한다.
• 역행 가능한 플로 기반 인코더를 통해 공정성을 강화하면서도 하류 예측 작업에 대한 높은 유용성을 유지한다.
• 정규화 플로 아키텍처의 역행성 덕분에 재구성과 알고리즘적 복구 기반의 해석 가능성 지원을 가능하게 한다.

제안 방법

• FNF는 민감한 그룹(a=0 및 a=1)의 데이터를 각각 잠재 공간으로 매핑하는 두 개의 별도 정규화 플로 인코더 f0와 f1를 사용한다. 이로 인해 pZ0 및 pZ1 분포를 갖는 잠재 표현이 생성된다.
• 학습 목표는 pZ0와 pZ1 간의 통계적 거리 ∆를 최소화하는 것으로, 서로 다른 그룹의 잠재 표현이 구별될 수 없도록 보장한다.
• 잠재 공간에서의 정확한 우도 계산을 통해 어떤 적대자에 대한 정확도의 상한선 ≤ (1+∆)/2를 유도할 수 있으며, 이는 민감도 평등성 및 동일한 기회와 같은 공정성 지표에 대해 날카롭게 작용한다.
• 플로의 역행성 덕분에 잠재 코드에서 원래 입력을 재구성할 수 있으며, 이는 알고리즘적 복구와 해석 가능성 지원에 기여한다.
• 진짜 입력 분포 p0와 p1가 알려져 있지 않을 경우 밀도 추정을 사용하여 이를 근사하며, 이론적 보장은 추정된 분포로도 확장된다.
• 이 방법은 플로 아키텍처와 수직적이며, RealNVP 및 Neural Spline Flows와 같은 정규화 플로의 최신 발전과 통합 가능하다.

실험 결과

연구 질문

• RQ1 표준 적대적 훈련의 한계를 넘어서, 어떤 적대자도 민감한 속성을 복원할 수 없도록 보장하는 공정한 표현을 학습할 수 있는가?
• RQ2 정규화 플로에서의 정확한 우도 계산을 어떻게 활용하여 적대적 공정성에 대해 날카롭고 증명 가능한 상한선을 도출할 수 있는가?
• RQ3 FNF는 공정성을 강화하면서도 하류 예측 작업에 대해 얼마나 높은 유용성을 유지하는가?
• RQ4 역행 가능한 표현을 통해 FNF는 알고리즘적 복구와 해석 가능성을 지원할 수 있는가?
• RQ5 진짜 분포 대신 추정된 입력 밀도를 사용할 경우 공정성 보장은 얼마나 견고한가?

주요 결과

• Crime 데이터셋에서 FNF는 그룹 간 잠재 분포 간 통계적 거리 ∆를 최소 0.23(γ=0.90)까지 낮춰, 민감한 속성의 적대적 복원 가능성을 크게 제한했다.
• ∆≈0.23일 경우, 적대적 정확도의 상한선은 ≤ (1+0.23)/2 = 0.615로, 이는 어떤 적대자도 랜덤 추측을 초월해 11.5%p 이내로 성능을 높일 수 없음을 의미한다.
• Law School 데이터셋에서 FNF는 인종별로 분류된 결과를 바탕으로, 예측에 유리한 결정을 이끌 수 있는 특성 변경(예: LSAT 점수 4.2–7.7점 상승)을 식별함으로써 알고리즘적 복구를 가능하게 했다.
• FNF를 활용한 전이 학습은 공정성을 유지한다: Health Heritage Prize 데이터셋에서 통계적 거리는 0.99에서 0.31로 감소했으며, 주요 조건 그룹의 정확도는 73.8%에서 73.1%로 약간 감소했다.
• FNF는 공정성을 강화하면서도 높은 하류 정확도(예: RealNVP 기반 Crime 데이터셋에서 85%, NSF 기반 85%)를 유지하여, 유용성-공정성 트레이드오프가 유리함을 보였다.
• FNF는 RealNVP 및 NSF와 같은 다양한 플로 아키텍처에서 유사한 성능을 달성하여 아키텍처 선택에 대해 강건함을 입증했다.