[논문 리뷰] Towards Fair Deep Clustering With Multi-State Protected Variables

Bokun Wang, Ian Davidson|arXiv (Cornell University)|2019. 01. 29.

Privacy-Preserving Technologies in Data참고 문헌 26인용 수 11

한 줄 요약

이 논문은 다중 상태의 보호 대상 속성(예: 인종, 연령, 종교)을 고려하여, 클러스터 중심과 학습된 '페어로이드'(보호 그룹의 중심) 사이의 등거리 조건을 강제하여 공정하고 균형 잡힌 클러스터 할당을 학습하는 딥 러닝 프레임워크인 Deep Fair Clustering을 제안한다. 이는 클러스터링 정확도 손실를 최소화하면서도 상당한 공정성 향상을 이룩하며, 차별적 영향 원칙에 따른 군집화에서의 그룹 공정성에 대해 확장 가능한 솔루션을 제공한다.

ABSTRACT

Fair clustering under the disparate impact doctrine requires that population of each protected group should be approximately equal in every cluster. Previous work investigated a difficult-to-scale pre-processing step for $k$-center and $k$-median style algorithms for the special case of this problem when the number of protected groups is two. In this work, we consider a more general and practical setting where there can be many protected groups. To this end, we propose Deep Fair Clustering, which learns a discriminative but fair cluster assignment function. The experimental results on three public datasets with different types of protected attribute show that our approach can steadily improve the degree of fairness while only having minor loss in terms of clustering quality.

연구 동기 및 목표

• 실제 데이터에서 흔한 다중 상태의 보호 대상 속성(예: 인종, 연령, 종교)에 대해 공정한 군집화 방법의 부족을 해결하기 위해.
• 차별적 영향 원칙에 따라 군집 간 보호 그룹의 균형 잡힌 표현을 보장하는 군집화에서의 공정성 정의를 위해.
• 군집화 품질과 공정성을 동시에 최적화하는 확장 가능한 딥 러닝 프레임워크를 개발하기 위해.
• 학습 가능한 초매개변수를 통해 군집화 정확도와 공정성 사이의 민감한 트레이드오프를 가능하게 하기 위해.

제안 방법

• 보통의 보호 그룹(예: 인종, 성별)에 대해 임베딩 공간 내에서 학습된 중심인 '페어로이드'를 도입한다.
• 모든 페어로이드로부터 클러스터 중심이 등거리에 있도록 하는 공정성 제약 조건을 도입하여 보호 그룹의 균형 잡힌 표현을 보장한다.
• 부드러운 클러스터 할당 헤드와 손실 함수 내 공정성 정규화 항을 갖춘 딥 오토에인커를 사용한다.
• 클러스터 할당 안정성을 향상시키기 위해 샤프닝과 스무딩 타겟(P 및 Ψ)을 적용한 자기학습 기법을 사용한다.
• 초매개변수 γ를 통해 군집 재구성 손실와 공정성 정규화 항을 통합한 공동 손실를 최적화한다.
• 학습 후 중심과 페어로이드의 공간 분포를 분석하기 위해 t-SNE 시각화를 활용한다.

실험 결과

연구 질문

• RQ1 딥 러닝 기반 군집화 프레임워크가 이진 분류를 초월한 다수의 보호 그룹에 대해 효과적으로 공정성을 강제할 수 있는가?
• RQ2 페어로이드로부터의 등거리 조건이라는 제안된 공정성 제약 조건이 군집화 품질과 균형에 어떤 영향을 미치는가?
• RQ3 모델이 군집화 정확도와 공정성 사이의 유연한 트레이드오프를 어느 정도 달성할 수 있는가?
• RQ4 이 방법은 더 큰 데이터셋으로 확장 가능하며, 기준 모델 대비 공정성 향상을 유지하는가?

주요 결과

• FWD 기준으로 HAR 데이터셋에서 10.3% 상대적 공정성 향상, Adult에서 7%, D&S에서 16.6% 향상되었으며, 군집화 정확도 손실는 최소한이었다.
• Adult 데이터셋에서 기준 DEC 모델 대비 가장 불공정한 클러스터의 균형이 18% 향상되었다.
• 공정성 손실와 군집화 손실는 함께 최적화되며, 학습 반복 과정에서 공정성이 점진적으로 향상되었다.
• 클러스터 수가 증가할수록 제안된 방법은 k-means와 DEC보다 항상 더 뛰어난 공정성(FWD가 낮음)을 유지했다.
• 초매개변수 γ를 통해 정확도와 공정성 사이의 트레이드오프를 제어할 수 있었으며, γ가 클수록 더 공정하지만 정확도는 낮아졌다.
• t-SNE 시각화 결과, 학습 후 페어로이드와 클러스터 중심 간의 등거리성이 뚜렷하게 향상되어 공정성 메커니즘이 검증되었다.