[논문 리뷰] Condorcet's Jury Theorem for Consensus Clustering and its Implications for Diversity

Brijnesh J. Jain|arXiv (Cornell University)|2016. 04. 26.

Data Management and Algorithms참고 문헌 40인용 수 3

한 줄 요약

이 논문은 평균 분할 접근법을 사용한 공명 클러스터링에 대해 콘도르세의 선거법칙을 확장하며, 유일한 진정한 분할 주변의 작은 이웃에서 표본 분할을 추출할 경우, 표본 분할 수가 증가함에 따라 공명 결과가 진정한 분할로 수렴함을 보여준다. 일반적인 믿음과는 반대로, 이 연구는 표본 분할 간의 과도한 다양성이 공명 품질을 해칠 수 있으며, 신뢰할 수 있는 클러스터링 결과를 얻기 위해 다양성 제한이 필수적임을 시사한다.

ABSTRACT

Condorcet's Jury Theorem has been invoked for ensemble classifiers to indicate that the combination of many classifiers can have better predictive performance than a single classifier. Such a theoretical underpinning is unknown for consensus clustering. This article extends Condorcet's Jury Theorem to the mean partition approach under the additional assumptions that a unique ground-truth partition exists and sample partitions are drawn from a sufficiently small ball containing the ground-truth. As an implication of practical relevance, we question the claim that the quality of consensus clustering depends on the diversity of the sample partitions. Instead, we conjecture that limiting the diversity of the mean partitions is necessary for controlling the quality.

연구 동기 및 목표

• 집합 분류에서 콘도르세의 선거법칙과 유사한 공명 클러스터링의 이론적 기반을 제공하기 위해.
• 표본 분할 간의 다양성이 공명 클러스터링 성능을 향상시키는지 또는 악화시키는지 조사하기 위해.
• 높은 다양성이 공명 클러스터링 품질을 향상시킨다는 일반적인 가정을 도전하기 위해.
• 평균 분할이 참 분할로 수렴하는 조건을 체계적으로 규명하기 위해.

제안 방법

• 표본 분할 간 투표 과정으로 공명 클러스터링을 모델링하며, 유클리드 노름에 의해 유도된 거리 공간을 갖는 평균 분할 접근법을 사용한다.
• 표본 분할이 진정한 분할 주변의 작은 구내에서 독립적이고 동일하게 분포된다고 가정한다.
• 평균 분할 정리 적용을 통해 표본 분할 수가 증가함에 따라 공명 분할이 거의 확실히 진정한 분할로 수렴함을 보인다.
• 이항분포를 사용하여 다수의 표본 분할이 각 데이터 포인트를 올바르게 분류할 확률을 계산한다.
• 각 데이터 포인트의 분류를 이진 투표로 간주하며, 소속 벡터의 내적을 통해 공명 분할과 진정한 분할 간의 일치도를 정의한다.
• 프레셰 평균과 거리 공간 내 통계적 수렴 결과를 활용하여 경험적 평균 분할이 기대 분할로 거의 확실히 수렴함을 증명한다.

실험 결과

연구 질문

• RQ1 표본 분할 집합의 평균 분할이 참 진정한 분할로 수렴하는 조건은 무엇인가?
• RQ2 표본 분할 간의 다양성이 공명 클러스터링 품질을 향상시키는가, 아니면 악화시키는가?
• RQ3 측도 기반 평균화 접근법을 사용한 공명 클러스터링 맥락에서 콘도르세의 선거법칙을 확장할 수 있는가?
• RQ4 진정한 분할 주변의 이웃 크기가 공명 결과의 수렴을 보장하는 데 어떤 역할을 하는가?
• RQ5 왜 공명 클러스터링에서 다양성의 역할에 대한 경험적 연구 결과는 상반된가?

주요 결과

• 표본 분할이 진정한 분할 주변의 충분히 작은 구내에서 추출될 경우, 공명 분할은 거의 확실히 진정한 분할로 수렴한다.
• 각 표본 분할의 정확도 확률이 0.5를 초과할 경우, 표본 분할의 다수층이 데이터 포인트를 올바르게 분류할 확률은 표본 수가 증가함에 따라 1에 수렴한다.
• 이 연구는 일반적으로 널리 퍼져 있는 다양성이 공명 클러스터링을 향상시킨다는 통념을 도전하며, 오히려 다양성을 제한하는 것이 품질 제어에 필수적임을 시사한다.
• 경험적 연구에서 다양성의 역할에 대한 모순은 본 논문이 체계화한 바와 같이, 분할 유사성에 대한 이론적 제약이 부족하기 때문일 수 있다.
• 유일한 진정한 분할이 존재하고, 표본 분할이 그 주변의 작은 이웃에서 독립적이고 동일하게 추출된다는 가정 하에 수렴 결과가 성립한다.
• 이론적 프레임워크는 콘도르세의 선거법칙이 집합 분류기에서 기능하는 것과 유사하게 공명 클러스터링에 대한 이론적 근거를 제공한다.