[논문 리뷰] Protecting Individual Interests across Clusters: Spectral Clustering with Guarantees.

Shubham Gupta, Ambedkar Dukkipati|arXiv (Cornell University)|2021. 05. 08.

Privacy-Preserving Technologies in Data참고 문헌 32인용 수 10

한 줄 요약

이 논문은 표현 그래프에서 연결이 잠재된 민감한 특성들을 반영하는 바탕으로, 각 클러스터에 충분한 수의 이웃이 포함되도록 보장함으로써 개인의 공정성을 확보하는 스펙트럴 클러스터링 알고리즘을 제안한다. 제안된 스토케스틱 블록 모델의 변종 하에서 약한 일致성을 확보하며, 실험적으로도 검증된다.

ABSTRACT

Studies related to fairness in machine learning have recently gained traction due to its ever-expanding role in high-stakes decision making. For example, it may be desirable to ensure that all clusters discovered by an algorithm have high gender diversity. Previously, these problems have been studied under a setting where sensitive attributes, with respect to which fairness conditions impose diversity across clusters, are assumed to be observable; hence, protected groups are readily available. Most often, this may not be true, and diversity or individual interests can manifest as an intrinsic or latent feature of a social network. For example, depending on latent sensitive attributes, individuals interact with each other and represent each other's interests, resulting in a network, which we refer to as a representation graph. Motivated by this, we propose an individual fairness criterion for clustering a graph $\mathcal{G}$ that requires each cluster to contain an adequate number of members connected to the individual under a representation graph $\mathcal{R}$. We devise a spectral clustering algorithm to find fair clusters under a given representation graph. We further propose a variant of the stochastic block model and establish our algorithm's weak consistency under this model. Finally, we present experimental results to corroborate our theoretical findings.

연구 동기 및 목표

• 민감한 특성이 관찰되지 않을 경우 클러스터링의 공정성을 다루기 위해 표현 그래프를 통해 개인의 관심사를 모델링한다.
• 표현 그래프에서 특정 개인과 연결된 개인의 수가 충분히 포함되도록 각 클러스터에 보장한다.
• 해당 제약 조건 하에서 개인의 공정성을 강제하는 스펙트럴 클러스터링 알고리즘을 개발한다.
• 새로운 스토케스틱 블록 모델의 변종 하에서 알고리즘의 이론적 일致성을 확립한다.
• 이론적 결과를 뒷받침하는 실험적 평가를 통해 접근법을 검증한다.

제안 방법

• 민감한 특성의 잠재적 영향을 반영하는 연결을 기반으로 개인 간의 관계를 표현하는 표현 그래프 𝒓를 정의한다.
• 모든 개인이 표현 그래프에서 연결된 최소 수의 이웃을 포함하도록 보장하는 개인의 공정성 기준을 수립한다.
• 수정된 라플라시안 행렬을 통해 공정성 제약 조건을 통합한 스펙트럴 클러스터링 알고리즘을 설계한다.
• 잠재된 민감한 특성을 가진 커뮤니티 구조를 모델링하기 위해 스토케스틱 블록 모델의 변종을 도입한다.
• 제안된 모델 하에서 알고리즘의 약한 일치성을 증명하며, 표본 크기가 증가함에 따라 공정한 클러스터링으로 수렴함을 보여준다.
• 이론적 주장에 기반해 합성 및 실세계 데이터에 대해 알고리즘을 구현하고 평가하여 검증한다.

실험 결과

연구 질문

• RQ1 민감한 특성이 관찰되지 않는 경우, 잠재된 특성에 기반해 개인의 공정성을 클러스터링에 어떻게 수식화할 수 있는가?
• RQ2 스펙트럴 클러스터링은 표현 그래프에서 개인의 관심을 반영하는 연결을 기반으로 하여 각 클러스터에 충분한 수의 이웃이 포함되도록 적응할 수 있는가?
• RQ3 제안된 알고리즘이 약한 일치성을 확보하는 데 필요한 모델 가정은 무엇인가?
• RQ4 공정성 및 클러스터링 품질 측면에서 기존의 스펙트럴 클러스터링 대비 성능은 어떻게 비교되는가?
• RQ5 잠재된 민감한 특성이 존재하는 환경에서 제안된 방법이 공정한 클러스터링을 효과적으로 복원할 수 있는가?

주요 결과

• 제안된 스펙트럴 클러스터링 알고리즘은 표현 그래프의 각 클러스터에 충분한 수의 이웃이 포함되도록 보장함으로써 개인의 공정성을 효과적으로 확보한다.
• 제안된 스토케스틱 블록 모델의 변종 하에서 알고리즘이 약한 일치성을 확보하며, 표본 크기가 증가함에 따라 공정한 클러스터링으로 수렴함을 보여준다.
• 실험 결과는 기존 방법 대비 공정성 지표를 크게 향상시키면서도 클러스터링 품질을 유지함을 입증한다.
• 표현 그래프는 민감한 특성의 잠재적 영향을 효과적으로 포착하며, 민감한 특성에 직접 접근하지 않고도 개인의 관심사를 모델링할 수 있게 한다.
• 특히 숨겨진 그룹 소속 관계가 존재하는 환경에서 표준 스펙트럴 클러스터링에 비해 공정성 지표에서 뛰어난 성능을 발휘한다.