[논문 리뷰] Fair Hierarchical Clustering

Sara Ahmadian, Alessandro Epasto외 7명|arXiv (Cornell University)|2020. 06. 18.

Privacy-Preserving Technologies in Data참고 문헌 29인용 수 20

한 줄 요약

이 논문은 표준 목표인 수익, 가치, 비용에 대해 강력한 근사 보장을 유지하면서도 계층의 모든 수준에서 보호되는 특성(예: 인종, 성별)의 균형 임의의 표현을 보장하는 공정한 계층적 군집화 알고리즘을 소개한다. 공정한 레트플레인 프레임워크를 계층적 군집화로 확장함으로써, 저자들은 근사적으로 최적에 가까운 군집화 품질을 달성하면서도 목표 값에 거의 영향을 주지 않는 효율적인 알고리즘을 제안한다. 이는 공정성에 대한 실험적 검증을 통해 성능을 희생시키지 않고도 가능함을 입증한다.

ABSTRACT

As machine learning has become more prevalent, researchers have begun to recognize the necessity of ensuring machine learning systems are fair. Recently, there has been an interest in defining a notion of fairness that mitigates over-representation in traditional clustering. In this paper we extend this notion to hierarchical clustering, where the goal is to recursively partition the data to optimize a specific objective. For various natural objectives, we obtain simple, efficient algorithms to find a provably good fair hierarchical clustering. Empirically, we show that our algorithms can find a fair hierarchical clustering, with only a negligible loss in the objective.

연구 동기 및 목표

• 모든 군집 수준에서 보호되는 특성의 균형 임의의 표현을 보장함으로써 계층적 군집화의 공정성 문제를 해결하는 것.
• 이전에 평면 군집화에서 사용된 공정한 레트플레인 프레임워크를 계층적 군집화로 확장하여 증명 가능한 공정한 해를 도출하는 것.
• 수익, 가치, 비용 목표 하에서 공정한 레트플레인 분해를 위한 효율적인 근사 알고리즘을 개발하는 것.
• 공정성과 군집화 품질 사이의 상호 교환 관계를 실험적으로 평가하여 목표 성능에 대한 손실가 최소한임을 보여주는 것.
• 실제 응용 분야인 뉴스 기획 및 지리적 세분화 등에서 공정한 계층적 군집화를 위한 이론적 보장과 실용적인 알고리즘을 제공하는 것.

제안 방법

• Dasgupta의 계층적 군집링 프레임워크를 공정한 레트플레인 분해 접근법을 통해 보호되는 특성 제약을 통합함으로써 공정성을 통합한다.
• 블랙박스 감소 전략 제안: 먼저 평균 연결 기반과 같은 방식으로 공정하지 않은 계층적 군집링을 계산한 후, 공정한 레트플레인 기반 군집링을 통해 재구성한다.
• 이중 단계 알고리즘 설계: (1) 초기 트리의 BFS 탐색을 통해 후보 군집 식별, (2) 매칭 기반 정렬을 통해 보호 특성을 균형 잡기 위해 군집 재결합.
• 상호 군집 불균형을 모델링하기 위해 매칭 그래프 $ H_M $ 를 구축하고, 제한된 무게 조정을 통해 반복적으로 미해결 정점들을 재할당한다.
• 최소 무게 이등분 블랙박스를 사용하여 군집 내 少수 색상 정점들을 고립하고 재할당함으로써 균형을 이루되, 목표 손실을 최소화한다.
• 유사한 불균형 수준을 갖는 군집들을 조합하는 탐욕적 병합 전략을 적용하여 계층의 모든 수준에서 공정성을 확보한다.

실험 결과

연구 질문

• RQ1 표준 목표인 수익, 가치, 비용에 대해 증명 가능한 근사 보장을 갖는 공정한 계층적 군집화가 달성될 수 있는가?
• RQ2 공정한 레트플레인 프레임워크는 평면 군집화에서 계층적 군집화로 어떻게 확장되어 트리의 모든 수준에서 공정성을 보장할 수 있는가?
• RQ3 계층적 군집화에서 좋은 공정한 레트플레인 분해를 찾는 데 있어 계산 복잡도는 무엇이며, 이를 효율적으로 근사할 수 있는가?
• RQ4 공정성 강제 조건이 계층적 군집링 목표의 품질에 얼마나 큰 영향을 미치는가?
• RQ5 제안된 알고리즘은 보호되는 특성에 대한 균형 임의의 표현을 보장하면서도 근사적으로 최적의 군집화 성능을 유지할 수 있는가?

주요 결과

• CensusMultiColor 데이터셋에서 수익 목표에 대해, 최종 공정 군집화는 3200개 샘플에서 바닐라 평균 연결 기반 성능의 97.43%를 달성하여 거의 영향을 주지 않는 것으로 나타났다.
• BankMultiColor 데이터셋에서 공정 알고리즘은 3200개 샘플에서 기준 성능의 98.43%를 달성하여 뛰어난 확장성과 최소한의 목표 손실을 보였다.
• 알고리즘의 평균 실행 시간은 데이터 크기와 함께 비선형적으로 증가하며, CensusMultiColor 데이터셋에서 6400개 샘플일 경우 803.59초에 도달하여 실용적인 효율성을 입증했다.
• 랜덤 공정한 레트플레인을 사용한 초기 공정한 레트플레인 분해는 성능이 열악했으며(예: CensusMultiColor에서 기준 대비 61.94%), 그러나 반복적 정밀 조정을 통해 최종 알고리즘이 97.43%로 향상시켰다.
• 공정한 레트플레인 분해 및 매칭 기반 정점 재할당 과정을 통해 알고리즘이 계층의 모든 수준에서 보호되는 특성을 균형 있게 유지함을 확인했다.
• 이론적 분석 결과, 공정한 레트플레인 기반 접근법은 표준 계층적 군집링 프레임워크 하에서 비용, 수익, 가치 목표에 대해 일정 요인 근사 보장을 제공함을 보여주었다.