[논문 리뷰] Scalable Fair Clustering

Artūrs Bačkurs, Piotr Indyk외 4명|arXiv (Cornell University)|2019. 02. 10.

Facility Location and Emergency Management인용 수 58

한 줄 요약

본 논문은 먼저 gamma-HST 임베딩을 통해 확장 가능한 (r,b)-공정 페어렛 분해를 계산한 다음, 페어렛을 k 군집으로 병합하여 (r,b)-공정 k-중간값 군집화를 근사하는 거의 선형 시간 알고리즘을 제시한다.

ABSTRACT

We study the fair variant of the classic $k$-median problem introduced by Chierichetti et al. [2017]. In the standard $k$-median problem, given an input pointset $P$, the goal is to find $k$ centers $C$ and assign each input point to one of the centers in $C$ such that the average distance of points to their cluster center is minimized. In the fair variant of $k$-median, the points are colored, and the goal is to minimize the same average distance objective while ensuring that all clusters have an "approximately equal" number of points of each color. Chierichetti et al. proposed a two-phase algorithm for fair $k$-clustering. In the first step, the pointset is partitioned into subsets called fairlets that satisfy the fairness requirement and approximately preserve the $k$-median objective. In the second step, fairlets are merged into $k$ clusters by one of the existing $k$-median algorithms. The running time of this algorithm is dominated by the first step, which takes super-quadratic time. In this paper, we present a practical approximate fairlet decomposition algorithm that runs in nearly linear time. Our algorithm additionally allows for finer control over the balance of resulting clusters than the original work. We complement our theoretical bounds with empirical evaluation.

연구 동기 및 목표

• 공정 k-중간값 군집화의 확장성 격차를 해결하기 위해 거의 선형 시간의 페어렛 분해를 설계한다.
• 효율적인 페어렛 구성을 가능하게 하는 임베딩 기반 접근법(gamma-HST)을 개발한다.
• 이론적 보장을 제공하고 표준 데이터 세트에서 경험적 확장성을 입증한다.
• 이전 연구를 넘어 군집 균형 (r,b)에 대해 세밀한 제어를 가능하게 한다.

제안 방법

• 입력을 무작위 격자 기반 구성으로 gamma-HST에 임베딩한다.
• HST에서 (r,b)-페어렛 분해를 계산하여 비용 왜곡 O(d*(r^8+b^8)*log n)로 공정 k-중간값 목적을 근사한다.
• Heavy 포인트를 최소화하고 거의 선형 시간의 페어렛 분해를 얻기 위해 상향식이 아닌 하향 트리 분할 접근법을 사용한다 (MinHeavyPoints, UnbalancedPoints, NonSaturFairlet, ExtraPoint).
• 각 페어렛을 중심으로 바꾼 후 확장된 중심들에 대해 beta-근사 k-중간값을 실행하여 k 군집으로 병합하는 방식으로 (r,b)-공정 k-중간값에 대해 (alpha + (r+b)*beta)-근사치를 얻는다.
• 이론적 보장: 최적해에 대해 O_r,b(d*log n + alpha)의 비용 오차를 가지며 O(d * n * log n + T(n,d,k)) 시간, HST 임베딩을 사용할 때 전체 실행 시간이 거의 선형이다.

실험 결과

연구 질문

• RQ1 Euclidean 공간에서 페어렛 계산의 이차 시간 없이 확장 가능한 (r,b)-공정 k-중간값 군집화를 어떻게 달성할 수 있는가?
• RQ2 임베딩 기반 방법(gamma-HST)이 공정성 제약을 유지하면서 거의 선형의 페어렛 분해를 가능하게 할 수 있는가?
• RQ3 확장 가능한 페어렛 기반 파이프라인의 근사 보장은 무엇인가?

주요 결과

• 제안된 접근 방식은 최적의 공정 비용에 비해 O_r,b(d*log n + alpha) 이내의 비용으로 (r,b)-공정 k-중간값 군집화를 산출한다.
• 페어렛 분해 단계는 거의 선형 시간에 실행되며, 임베딩 및 HST에서의 선형 시간 처리에 의해 주도된다.
• 실험 결과는 대규모 데이터셋에서 거의 선형 확장성과 함께 이전 방법(Chierichetti et al. 2017)과 비슷한 군집화 품질을 보인다.
• 알고리즘은 대규모 데이터셋까지 확장되며 원래의 페어렛 접근법보다 군집 균형에 대한 더 세밀한 제어를 가능하게 한다.
• 실험적으로 이 방법은 페어렛 계산에서 상당한 속도향상을 보여주고 경쟁력 있는 목적값을 유지한다.