[논문 리뷰] A Uniqueness Theorem for Clustering

Reza Bosagh Zadeh, Shai Ben-David|arXiv (Cornell University)|2012. 05. 09.

Advanced Clustering Algorithms Research참고 문헌 6인용 수 85

한 줄 요약

이 논문은 클러스터링을 위한 새로운 축약적 프레임워크를 제안하며, 클라인버그의 불가능성 결과를 피하기 위해 그의 축약적 원리 중 하나를 완화함으로써 일관된 축약적 원칙의 집합을 가능하게 한다. 이는 단일 연결 클러스터링이 특정한 추상적 성질의 집합을 만족하는 유일한 함수임을 규명하는 유일성 정리(유일성 정리)를 수립하며, 이는 단일 연결 클러스터링의 사용에 대한 이론적 근거를 제공하고 클러스터링 패러다임의 분류 체계를 마련한다.

ABSTRACT

Despite the widespread use of Clustering, there is distressingly little general theory of clustering available. Questions like "What distinguishes a clustering of data from other data partitioning?", "Are there any principles governing all clustering paradigms?", "How should a user choose an appropriate clustering algorithm for a particular task?", etc. are almost completely unanswered by the existing body of clustering literature. We consider an axiomatic approach to the theory of Clustering. We adopt the framework of Kleinberg, [Kle03]. By relaxing one of Kleinberg's clustering axioms, we sidestep his impossibility result and arrive at a consistent set of axioms. We suggest to extend these axioms, aiming to provide an axiomatic taxonomy of clustering paradigms. Such a taxonomy should provide users some guidance concerning the choice of the appropriate clustering paradigm for a given task. The main result of this paper is a set of abstract properties that characterize the Single-Linkage clustering function. This characterization result provides new insight into the properties of desired data groupings that make Single-Linkage the appropriate choice. We conclude by considering a taxonomy of clustering functions based on abstract properties that each satisfies.

연구 동기 및 목표

• 클러스터링이 널리 사용되고 있음에도 불구하고 일반적인 이론적 기반의 부재를 해결하기 위해.
• 클라인버그의 불가능성 결과를 해결하기 위해 그의 축약적 원리 중 하나를 완화함으로써 일관된 축약적 체계를 가능하게 하기 위해.
• 다른 클러스터링 패러다임을 구분하는 데 사용할 수 있는 추상적 성질에 기반한 클러스터링 함수의 분류 체계를 개발하기 위해.
• 단일 연결 클러스터링을 특정한 추상적이고 바람직한 성질의 집합으로 특성화하여 특정 맥락에서의 사용에 대한 이론적 근거를 제공하기 위해.
• 데이터 특성과 원하는 군집화 행동에 기반해 사용자가 적절한 클러스터링 알고리즘을 선택할 수 있도록 체계적인 지침을 제공하기 위해.

제안 방법

• 클라인버그의 축약적 프레임워크를 채택하지만, 불가능성 결과를 피하기 위해 '척도 불변성' 원리를 완화함.
• 일관성, 포괄성, 그리고 수정된 불변성 성질을 포함하는 새로운 축약적 원칙의 집합을 정의하여 일관성을 확보함.
• 모든 제안된 축약적 원칙을 만족하는 유일한 클러스터링 함수인 단일 연결 클러스터링을 식별함.
• 클러스터링 함수의 행동을 기술하기 위해 추상적 수학적 성질을 사용하며, 연결성과 연결 규칙에 중점을 둠.
• 완화된 프레임워크 하에서 유일한 클러스터링 함수가 단일 연결 클러스터링 뿐임을 수학적으로 증명함.
• 각 클러스터링 함수가 만족하는 추상적 성질에 기반해 클러스터링 함수의 분류 체계를 제안함.

실험 결과

연구 질문

• RQ1 어떤 추상적 성질이 단일 연결 클러스터링 함수를 유일하게 특성화하는가?
• RQ2 클라인버그의 불가능성 결과에도 불구하고 클러스터링을 위한 축약적 프레임워크를 어떻게 일관성 있게 만들 수 있는가?
• RQ3 어떤 클러스터링 패러다임이 어떤 추상적 성질의 집합을 만족하는가, 그리고 이는 알고리즘 선택에 어떻게 기여할 수 있는가?
• RQ4 이론적으로 엄밀한 방식으로 클러스터링과 임의의 데이터 분할을 어떻게 구분할 수 있는가?
• RQ5 공유된 추상적 성질에 기반해 통합된 클러스터링 함수의 분류 체계를 구성할 수 있는가?

주요 결과

• 단일 연결 클러스터링은 일관성, 포괄성, 그리고 완화된 불변 조건을 포함한 제안된 축약적 원칙의 집합을 만족하는 유일한 클러스터링 함수이다.
• 클라인버그의 척도 불변성 원리의 완화는 단일한 클러스터링 함수가 존재하는 일관된 축약적 체계를 가능하게 한다.
• 축약적 특성화는 연결성과 계층적 군집화가 우선시되는 맥락에서 단일 연결 클러스터링을 사용하는 데 이론적 근거를 제공한다.
• 이 프레임워크는 각 클러스터링 함수가 만족하는 추상적 성질에 기반해 클러스터링 함수의 분류 체계 개발을 지원한다.
• 결과는 원하는 데이터 군집화 행동에 기반해 클러스터링 알고리즘을 선택할 수 있는 체계적인 근거를 제공한다.
• 유일성 정리는 완화된 프레임워크 하에서 제안된 모든 축약적 원칙을 만족하는 함수가 단일 연결 클러스터링 뿐임을 입증한다.