[논문 리뷰] Statistical Inference for Cluster Trees

Jisu Kim, Yen‐Chi Chen외 3명|arXiv (Cornell University)|2016. 05. 20.

Topological and Geometric Data Analysis참고 문헌 15인용 수 11

한 줄 요약

이 논문은 부트스트랩 기반 방법과 부분 순서를 사용하여 실제 클러스터 트리에 대한 신뢰집합을 구성함으로써 클러스터 트리에 대한 통계적 추론 프레임워크를 제안한다. 이는 표본 오차로 인한 영향을 제거하고 통계적으로 유의미한 특징을 유지하는 데 중점을 둔다. 주요 기여는 실제 위상적 특징과 표본 노이즈를 구분할 수 있는 원칙적이고 데이터 기반의 접근법을 제공하며, 시뮬레이션 데이터와 GvHD 데이터셋에서 검증되었다.

ABSTRACT

A cluster tree provides a highly-interpretable summary of a density function by representing the hierarchy of its high-density clusters. It is estimated using the empirical tree, which is the cluster tree constructed from a density estimator. This paper addresses the basic question of quantifying our uncertainty by assessing the statistical significance of topological features of an empirical cluster tree. We first study a variety of metrics that can be used to compare different trees, analyze their properties and assess their suitability for inference. We then propose methods to construct and summarize confidence sets for the unknown true cluster tree. We introduce a partial ordering on cluster trees which we use to prune some of the statistically insignificant features of the empirical tree, yielding interpretable and parsimonious cluster trees. Finally, we illustrate the proposed methods on a variety of synthetic examples and furthermore demonstrate their utility in the analysis of a Graft-versus-Host Disease (GvHD) data set.

연구 동기 및 목표

• 클러스터링에서 통계적 추론 방법의 부족, 특히 클러스터 트리의 위상적 특징의 유의미성 평가 부족 문제를 해결하기 위해.
• 사전 지정된 확률로 진짜 클러스터 트리를 포함하는 유효한 신뢰집합을 구성하기 위해.
• 표본 클러스터 트리에서 통계적으로 유의미하지 않은 특징을 식별하고 제거하기 위해 클러스터 트리에 대한 부분 순서를 개발하기 위해.
• 통계적 보장을 유지하면서 노이즈를 제거하고 더 단순하고 해석 가능한 클러스터 트리를 유지하기 위해.
• 실제 데이터와 시뮬레이션 데이터에서 제안된 방법의 유용성을 입증하기 위해.

제안 방법

• 독립 동일분포 표본에서 커널 밀도 추정기로 표본 클러스터 트리 $T_{\widehat{p}_h}$ 를 구성한다.
• 다양한 트리 거리 측도를 사용하여 클러스터 트리를 비교하고, 부트스트랩 추론에 적합한 측도를 선택한다.
• 부트스트랩을 적용하여 진짜 클러스터 트리 $T_{p_0}$ 를 위한 날카운 신뢰집합을 구성한다.
• 클러스터 트리에 대한 부분 순서를 도입하여 '더 단순한' 트리를 정의하고 표본 트리의 단순화된(자르진) 형태를 식별한다.
• 클러스터의 '수명' 함수 기반으로 정렬된 방법을 제안하여 짧은 지속성(낮은 유의미성)을 가진 특징을 제거한다.
• 표본 트리의 자른 트리와 일치하고, 신뢰집합 내에 포함되는 대표적인 자른 트리 $\widetilde{p}$ 를 구성한다.

실험 결과

연구 질문

• RQ1 유한 표본에서 추정된 클러스터 트리의 위상적 특징의 통계적 유의미성을 어떻게 측정할 수 있는가?
• RQ2 부트스트랩 재표본에서 유효한 신뢰집합을 구성하기 위해 어떤 트리 거리 측도가 적합한가?
• RQ3 클러스터 트리에 대한 부분 순서를 어떻게 정의하여 더 단순하고 해석 가능한 구조를 식별할 수 있는가?
• RQ4 통계적 유의미성 특징만 유지하면서도 유효한 통계적 커버리지가 유지되는 자른 클러스터 트리를 어떻게 구성할 수 있는가?
• RQ5 제안된 방법은 실제 데이터와 시뮬레이션 데이터에서 진짜 클러스터 구조와 표본 오차로 인한 잡음 요소를 어떻게 효과적으로 구분하는가?

주요 결과

• 제안된 방법은 진짜 클러스터 트리가 사전 지정된 확률로 포함되는 부트스트랩 재표본을 기반으로 한 신뢰집합을 구성한다.
• 클러스터 트리에 대한 부분 순서는 단순하고 통계적으로 타당한 표본 트리의 표현으로서의 자른 트리를 식별하는 데 기여한다.
• 클러스터 지속성(수명 함수) 기반 정렬은 노이즈 특징을 효과적으로 제거하여 더 해석 가능한 클러스터 트리를 제공한다.
• 자른 트리 $\text{Pruned}_{\text{life},\widehat{t}_\alpha}(\widehat{T}_h)$ 는 신뢰집합의 유효한 대표자로 보장되며, $\widetilde{p} \in \widehat{C}_\alpha$ 를 만족한다.
• 제안된 방법은 시뮬레이션 예제와 GvHD 데이터셋 모두에서 진짜 클러스터 구조와 유사한 특징을 효과적으로 식별하며 실용적 유용성을 입증한다.
• 이론적 결과는 작은 대역폭 $h$ 에 대해 진짜 밀도의 위상 $T_{p_0}$ 와 스무딩된 커널 추정기 $T_{p_h}$ 가 위상적으로 동치임을 보여준다.