[논문 리뷰] Selective Inference for Hierarchical Clustering

Lucy L. Gao, Jacob Bien외 1명|arXiv (Cornell University)|2020. 12. 05.

Gene expression and cancer classification인용 수 6

한 줄 요약

이 논문은 계층적 클러스터링을 통해 형성된 클러스터 간 평균 차이를 검정하기 위한 선택적 추론 프레임워크를 제안한다. 이는 데이터에 의존하는 가설 선택을 고려하여, 동일한 데이터에서 테스트를 수행할 때도 유효한 추론을 보장한다. 클러스터링 결과를 조건으로 삼고, 잘린 카이제곱 분포를 사용해 정확한 p-값을 계산함으로써, 선택적 유형 I 오류율을 통제한다. 이는 클러스터가 동일한 데이터에서 추정된 경우에도 추론이 유효함을 입증한다.

ABSTRACT

Classical tests for a difference in means control the type I error rate when the groups are defined a priori. However, when the groups are instead defined via clustering, then applying a classical test yields an extremely inflated type I error rate. Notably, this problem persists even if two separate and independent data sets are used to define the groups and to test for a difference in their means. To address this problem, in this paper, we propose a selective inference approach to test for a difference in means between two clusters. Our procedure controls the selective type I error rate by accounting for the fact that the choice of null hypothesis was made based on the data. We describe how to efficiently compute exact p-values for clusters obtained using agglomerative hierarchical clustering with many commonly-used linkages. We apply our method to simulated data and to single-cell RNA-sequencing data.

연구 동기 및 목표

• 클러스터링에 사용된 동일한 데이터에서 클러스터를 추정한 후 평균 차이를 검정할 때 발생하는 과도한 유형 I 오류율을 해결하기 위해.
• 귀무가설이 데이터에 의해 선택된다는 사실을 고려한 통계적 프레임워크를 개발하기 위해.
• 공통된 연결 방식을 사용하는 축적적 계층적 클러스터링 하에서 평균 차이 검정에 대한 정확한 p-값을 제공하기 위해.
• 단일세포 RNA-시퀀싱 데이터와 같이 클러스터 기반 검정이 널리 쓰이는 고차원 설정에서도 유효한 추론을 보장하기 위해.

제안 방법

• 이 방법은 관측된 클러스터링 결과를 조건으로 삼아 선택적 추론을 사용해 정확한 p-값을 계산하며, 클러스터 할당을 무작위 선택 메커니즘으로 간주한다.
• 검정 통계량(클러스터 평균의 차이)을 잘린 카이제곱 분포로 모델링하며, 이 분포의 잘림 영역은 관측된 클러스터링 구조에 의해 정의된다.
• p-값은 귀무가설 하에서 검정 통계량이 관측된 값보다 클 확률을 클러스터링 결과가 선택된 조건 하에 계산한다.
• 이 방법은 단일, 평균, 완전, 중심점 연결 방식을 사용하는 축적적 계층적 클러스터링에 적용 가능하며, 조건부 분포에 대한 닫힌 형태의 표현식을 사용한다.
• 클러스터가 데이터로부터 추정된다는 사실을 고려함으로써, 가설 검정에서의 선택 편향을 수정한다.
• 귀무가설 하에서 검정 통계량의 선택적 표본 분포를 유도함으로써, 동일한 데이터를 클러스터링과 테스트에 모두 사용하는 경우에도 유효한 추론이 가능하다.

실험 결과

연구 질문

• RQ1 클러스터링에 사용된 동일한 데이터에서 클러스터를 추정한 후, 클러스터 간 평균 차이에 대한 유효한 가설 검정을 개발할 수 있는가?
• RQ2 데이터 기반 클러스터 선택은 고전적 t-검정 또는 월드 검정에서의 유형 I 오류율에 어떤 영향을 미치는가?
• RQ3 귀무가설이 데이터에 의해 선택된 경우, 검정 통계량의 올바른 표본 분포는 무엇인가?
• RQ4 선택적 유형 I 오류율을 통제하는 정확한 p-값을 계층적 클러스터링에서 계산할 수 있는가?
• RQ5 제안된 방법의 검정력은 효과 크기, 클러스터 크기, 연결 유형에 따라 어떻게 변화하는가?

주요 결과

• 제안된 방법은 클러스터링 결과를 조건으로 삼아 선택적 유형 I 오류율을 통제함으로써, 고전적 월드 검정에서 관찰되는 심각한 오류율 과잉을 방지한다.
• 클러스터링 이후 고전적 검정을 적용할 경우, 독립적인 학습 및 테스트 세트가 있더라도 매우 비보수적인 p-값을 얻으며, 이는 유형 I 오류율이 명목 수준을 크게 초과함을 의미한다.
• 표본 분할도 문제를 해결하지 못한다. 테스트 세트의 클러스터 할당 역시 여전히 데이터 기반 클러스터 선택에 의존하므로, 표준 추론이 무효해진다.
• 모든 테스트된 연결 방식(단일, 평균, 완전, 중심점)에서 유효한 추론을 달성하며, 귀무가설이 참일 경우 p-값이 균일하게 분포함을 확인했다.
• 효과 크기 Δ이 클수록 검정력이 증가하며, 작은 클러스터에서도 충분한 검정력을 유지하지만, min{|C₁|, |C₂|} < 10일 경우 검정력이 감소한다.
• 검정 통계량이 선택 영역의 경계에 가까워질수록 p-값이 증가하며, 이는 조건부 추론의 성격을 반영하며, 선택적 추론 이론과 일관된다.