[논문 리뷰] Towards an Axiomatic Approach to Hierarchical Clustering of Measures

Philipp Thomann, Ingo Steinwart외 1명|arXiv (Cornell University)|2015. 08. 15.

Bayesian Methods and Mixture Models참고 문헌 25인용 수 6

한 줄 요약

이 논문은 거리 척도나 유사도 척도에 의존하지 않고 확률 측도의 계층적 군집화를 위한 공리적 프레임워크를 제안한다. 사용자가 기본 측도에 대해 지정한 군집화를 바탕으로 군집화를 정의하며, 가역성 및 연속성 공리 아래에서 밀도가 없는 분포를 포함한 광범위한 분포 클래스에 대해 유일한 계층적 군집화가 유도됨을 증명한다. 주요 기여는 거리 척도에 의존하지 않고도 무한 샘플 영역과 혼합 하우스도르프 차원 측도로까지 확장 가능한 수학적으로 엄밀한 군집화 기반을 제공한다는 데 있다.

ABSTRACT

We propose some axioms for hierarchical clustering of probability measures and investigate their ramifications. The basic idea is to let the user stipulate the clusters for some elementary measures. This is done without the need of any notion of metric, similarity or dissimilarity. Our main results then show that for each suitable choice of user-defined clustering on elementary measures we obtain a unique notion of clustering on a large set of distributions satisfying a set of additivity and continuity axioms. We illustrate the developed theory by numerous examples including some with and some without a density.

연구 동기 및 목표

• 거리 척도나 유사도 척도에 의존하지 않는 일반적이고 공리적인 확률 측도 계층적 군집화 프레임워크를 개발하는 것.
• 기본 집합의 기본 측도에 대한 사용자 정의 군집화를 통해 측도 위의 군집화 함수로 군집화를 형식화하는 것.
• 이러한 군집화 함수가 가역성 및 연속성 공리에 의해 유일하게 결정되는 조건을 설정하는 것.
• 밀도가 없는 분포나 혼합 하우스도르프 차원을 가진 분포와 같은 복잡한 분포로 이 이론을 확장하는 것.
• 무한 샘플 군집화를 위한 엄밀한 기반을 제공하여 일致성 및 학습률 분석을 지원하는 것.

제안 방법

• 확률 측도 위의 계층적 군집화 함수를 다루는 공리들—공리 1, 2, 3—를 정의하며, 가역성 및 연속성에 중점을 둔다.
• 거리 척도나 유사도 개념을 요구하지 않고, 기본 클래스의 기본 측도에 대한 사용자 지정 군집화를 시작점으로 삼는다.
• 정의 18을 통해 극한 구조를 도입하여 군집화 확장의 유일성을 보장한다.
• 정리 20을 증명하여 고유한 극한 구조 존재를 위한 충분조건을 확립함으로써, 고유한 가역성 및 연속성 군집화의 구성이 가능함을 보인다.
• 밀도 수준 집합과 혼합 하우스도르프 차원 측도를 포함한 예시에 이 프레임워크를 적용하여 기존 군집화 개념과의 일致성을 보여준다.
• 측도 이론적 도구인 내부 정규성, 지지 집합 정의, 라돈-니코다임 미분 등을 활용하여 연속성 및 가역성을 형식화한다.

실험 결과

연구 질문

• RQ1 기본 측도에 대한 사용자 지정 군집화만으로도 광범위한 확률 측도 클래스에 대해 고유한 계층적 군집화 함수를 정의할 수 있는가?
• RQ2 특히 가역성 및 연속성 공리와 같은 조건이 군집화 확장의 고유성을 보장하는 데 필요한가, 충분한가?
• RQ3 이 공리적 프레임워크는 밀도 수준 집합 군집화나 모드 기반 군집화와 같은 기존 군집화 개념과 어떻게 관련이 있는가?
• RQ4 이 프레임워크는 밀도가 없는 분포, 예를 들어 특이 측도나 혼합 하우스도르프 차원 측도를 다룰 수 있는가?
• RQ5 일반적인 측도 공간에서 고유성을 확보하기 위해 필요한 극한 구조가 존재하는 조건은 무엇인가?

주요 결과

• 사용자가 기본 측도에 대해 지정한 적절한 군집화에 대해, 가역성 및 연속성 공리를 만족하는 광범위한 확률 측도 클래스에 대해 고유한 계층적 군집화가 존재한다.
• 정리 20는 고유한 극한 구조 존재를 위한 기준(정의 18에 의해)을 제공하며, 이는 고유한 군집화 함수 구성에 필수적이다.
• 정리 21은 정리 20의 조건을 만족할 경우 전체 측도 공간에 대해 고유한 가역성 및 연속성 군집화 함수가 존재함을 보여준다.
• 이 프레임워크는 밀도 수준 집합 군집화를 포함하고 일반화하며, 이러한 군집화가 공리적 접근의 특수한 경우로 자연스럽게 유도됨을 보여준다.
• 이 이론은 라돈 공간, 즉 폴란드 공간과 약한 위상이 부여된 분리 가능 바나흐 공간을 포함하며, 혼합 하우스도르프 차원을 가진 측도까지도 지원한다.
• 측도의 지지 집합 및 절대 연속성 성질(예: 라돈-니코다임 미분을 통한)을 형식적으로 사용하여 군집화 함수의 연속성과 일관성을 보장한다.