[논문 리뷰] Fair Algorithms for Hierarchical Agglomerative Clustering

Anshuman Chhabra, Prasant Mohapatra|arXiv (Cornell University)|2020. 05. 07.

HIV, Drug Use, Sexual Risk인용 수 4

한 줄 요약

이 논문은 군집화 과정에 그룹 기반의 공정성 제약 조건(예: 제한된 표현, 균형)을 통합함으로써 HAC에서 공정성을 보장하는 새로운 알고리즘인 공정한 계층적 응집 클러스터링(FHAC)을 제안한다. 이 알고리즘은 단일, 평균, 완전 연결 기준과 같은 다양한 연결 기준에 일반화되며, 여러 보호 그룹을 지원하고, 기존의 바닐라 HAC 및 최신 기술보다 경쟁적인 런타임을 유지하면서도 공정성 측면에서 크게 향상된 성능을 보인다. UCI 데이터셋에서의 실험 결과를 바탕으로 한다.

ABSTRACT

Hierarchical Agglomerative Clustering (HAC) algorithms are extensively utilized in modern data science, and seek to partition the dataset into clusters while generating a hierarchical relationship between the data samples. HAC algorithms are employed in many applications, such as biology, natural language processing, and recommender systems. Thus, it is imperative to ensure that these algorithms are fair -- even if the dataset contains biases against certain protected groups, the cluster outputs generated should not discriminate against samples from any of these groups. However, recent work in clustering fairness has mostly focused on center-based clustering algorithms, such as k-median and k-means clustering. In this paper, we propose fair algorithms for performing HAC that enforce fairness constraints 1) irrespective of the distance linkage criteria used, 2) generalize to any natural measures of clustering fairness for HAC, 3) work for multiple protected groups, and 4) have competitive running times to vanilla HAC. Through extensive experiments on multiple real-world UCI datasets, we show that our proposed algorithm finds fairer clusterings compared to vanilla HAC as well as other state-of-the-art fair clustering approaches.

연구 동기 및 목표

• 감정적 응용 분야에서 널리 사용되고 있음에도 불구하고, 공정성 인식이 반영된 계층적 응집 클러스터링 알고리즘이 부족한 점을 보완하기 위해.
• 학습 데이터에 사회적 편향이 포함되어 있어도 보호 그룹(예: 인종, 성별)에 대해 차별이 발생하지 않도록 군집 결과를 보장하기 위해.
• 다양한 공정성 개념(예: 균형, 최대 공정성 비용)과 연결 기준을 모두 지원하는 일반 목적의 프레임워크를 개발하기 위해.
• 공정성 향상을 위해 바닐라 HAC와 유사한 계산 효율성을 유지하기 위해.
• 실제 UCI 데이터셋에서 기존의 공정한 HAC 접근 방식에 비해 뛰어난 공정성과 군집 품질을 보여주기 위해.

제안 방법

• 군집 병합 결정 과정에 공정성 제약 조건을 통합한 수정된 응집 클러스터링 프로세스를 도입하기 위해.
• 최대 공정성 비용(MFC)과 균형이라는 두 가지 핵심 지표를 정의하여 군집 내 그룹 표현을 제어한다.
• 거리 기준을 개선하기 위해 릴랙세이션 파라미터 β를 도입하여, 약간 거리 최적화에서 떨어지더라도 더 공정한 병합을 허용한다.
• 모든 연결 기준(단일, 평균, 완전 연결)에 대해 공정성 제약 조건 하에서 병합 선택 로직을 조정함으로써 일반화된 접근 방식을 구현한다.
• 거리 기반의 가까움과 공정성 편차를 동시에 고려하는 하이브리드 목적 함수를 최소화하는 데 중점을 두어 그리디 병합 전략을 사용한다.
• 각 병합 단계에서 그룹별 군집 소속을 추적하고, 표현 비율에 대한 범위 제약 조건을 적용함으로써 여러 보호 그룹을 지원한다.

실험 결과

연구 질문

• RQ1 계산 효율성을 희생시키지 않고도 계층적 응집 클러스터링에 공정성 제약 조건을 효과적으로 통합할 수 있는가?
• RQ2 제안된 FHAC 알고리즘이 다양한 연결 기준(예: 단일, 평균, 완전 연결)에 대해 일반화되며 공정성을 유지할 수 있는가?
• RQ3 실제 세계의 데이터셋에서 FHAC의 공정성 성능은 바닐라 HAC와 유일하게 존재하는 다른 공정한 HAC 방법(AFHAC)에 비해 어떻게 비교되는가?
• RQ4 공정성 강제 조건을 적용할 경우, 실루엣 스코어와 같은 표준 지표로 측정했을 때 군집 품질이 얼마나 떨어지는가?
• RQ5 기존 연구에서 사용된 특정 지표를 초월해 임의의 공정성 개념에 일반화될 수 있는가?

주요 결과

• FHAC는 바닐라 HAC와 최신 기술인 AFHAC보다 유의미하게 뛰어난 공정성을 달성했으며, 크레딧카드 및 인구조사 데이터셋에서 MFC 값이 최대 70% 감소했다.
• 크레딧카드 데이터셋에서 FHAC는 균형 스코어 0.427을 기록하여 AFHAC-V(0.0)와 AFHAC-R(0.416)를 모두 앞서며 더 균형 잡힌 그룹 표현을 보였다.
• 은행 데이터셋에서는 FHAC가 균형 스코어 0.5567을 기록하여 AFHAC-V(0.9474)와 AFHAC-R(0.0)를 모두 초월하여 지표 간 일관된 공정성을 입증했다.
• FHAC는 바닐라 HAC 및 다른 공정 알고리즘과 유사한 실루엣 스코어를 유지하여 군집의 응집도와 분리도에 대한 열악한 영향을 최소화했다.
• 알고리즘의 점근적 시간 복잡도는 O(fn³)이며, f는 보호 그룹의 수이므로 실무에서 f가 일반적으로 작기 때문에 확장성이 뛰어나다.
• AFHAC-V와 AFHAC-R는 임의의 공정성 개념에 일반화되지 못하고 데이터셋 간 성능이 일관되지 않으며, 이에 비해 제안된 FHAC 프레임워크는 보다 우수한 일반화 성능을 보였다.