[논문 리뷰] Clustering Via Nonparametric Density Estimation: the R Package pdfCluster

Adelchi Azzalini, Giovanna Menardi|arXiv (Cornell University)|2013. 01. 28.

Bayesian Methods and Mixture Models참고 문헌 14인용 수 18

한 줄 요약

이 논문은 커널 밀도 추정을 통한 비모수적 밀도 추정을 사용하여 군집 분석을 수행하는 R 패키지 pdfCluster를 소개한다. 군집을 데이터 내 고밀도 영역으로 식별함으로써, 군집의 형태에 대한 모수적 가정을 피하고, 다차원 척도화와 적응형 대역폭 선택을 통해 연속형 및 혼합형 데이터 모두에서 강건한 성능을 보인다.

ABSTRACT

The R package pdfCluster performs cluster analysis based on a nonparametric estimate of the density of the observed variables. After summarizing the main aspects of the methodology, we describe the features and the usage of the package, and finally illustrate its working with the aid of two datasets.

연구 동기 및 목표

• 군집의 형태에 특정한 모수적 형태를 가정하지 않는 유연한 비모수적 군집 분석 방법을 개발하는 것.
• 커널 밀도 추정을 사용한 밀도 기반 군집 분석을 위한 사용자 친화적인 R 패키지 pdfCluster를 구현하는 것.
• 다차원 척도화를 통해 혼합형 데이터(연속형 및 범주형 변수 포함)에 대한 밀도 기반 군집 분석의 적용 범위를 확장하는 것.
• 적응형 대역폭 선택과 그래프 기반 계층적 군집 분석을 통해 강건하고 효율적인 군집 분석을 제공하는 것.
• 실제 데이터셋, 특히 혼합 변수를 포함한 식물 형질 데이터셋을 대상으로 본 방법의 성능을 입증하는 것.

제안 방법

• 다변량 데이터의 기저 밀도를 비모수적으로 추정하기 위해 커널 밀도 추정을 사용한다.
• 추정된 밀도의 수준 집합을 이용해 고밀도 점들의 연결된 영역으로서 군집을 식별한다.
• 밀도 모드의 계층적 군집 분석을 위해 델로아뉴 삼각분할을 사용하여 그래프 구조를 구성한다.
• 다양한 데이터 밀도 영역에서의 밀도 추정 향상을 위해 적응형 대역폭 선택을 적용한다.
• 고어 거리 기반으로 혼합형 데이터를 다차원 척도화(MDS)를 통해 연속 좌표로 변환한다.
• 결과로 얻은 MDS 좌표를 pdfCluster 알고리즘의 입력으로 사용함으로써 혼합형 데이터에의 적용을 가능하게 한다.

실험 결과

연구 질문

• RQ1 특정한 모수적 형태를 가정하지 않고 비모수적 밀도 추정을 효과적으로 활용하여 군집을 식별할 수 있는 방법은 무엇인가?
• RQ2 기존의 거리 기반 방법이 직접 적용되지 않는 혼합형 데이터에서 밀도 기반 군집 분석의 성능은 어떠한가?
• RQ3 전역 대역폭 대비 적응형 대역폭의 선택이 군집 안정성과 정확성 측면에서 군집 결과에 어떤 영향을 미치는가?
• RQ4 pdfCluster 패키지는 R에서 밀도 기반 군집 분석을 위한 신뢰할 수 있고 효율적이며 확장 가능한 솔루션을 제공할 수 있는가?
• RQ5 실제 세계 데이터셋에서 pdfCluster의 결과는 기존의 거리 기반 군집 분석 방법과 비교해 어떻게 나타나는가?

주요 결과

• pdfCluster 패키지는 식물 형질 데이터셋에서 두 개의 주요 군집을 성공적으로 식별하였으며, 이 중 하나의 군집은 총 136개 관측치 중 128개를 포함한다.
• 오직 8개의 관측치로 구성된 작은 군집을 탐지함으로써 희귀 또는 이방군 그룹을 식별할 잠재력이 있음을 시사한다.
• 적응형 대역폭 선택과 전역 스무딩을 사용할 경우, 특히 저밀도 영역에서 군집의 안정성이 향상된다.
• pdfCluster의 군집 결과는 거리 기반 방법에서의 agnes (ward) 연결법에 의한 6개 군집 해법과 강한 일치를 보이며, {1,3,5,6} 군집과 {2,4} 군집으로 분류된 군집이 유사하게 그룹화된다.
• 특히 대규모 데이터셋에서 사전 계산된 그래프 구조를 재사용함으로써 패키지의 계산 효율성이 크게 향상된다.