[논문 리뷰] Robust Clustering Using Tau-Scales

Juan Domingo González, Vı́ctor J. Yohai외 1명|arXiv (Cornell University)|2019. 06. 19.

Advanced Statistical Methods and Models참고 문헌 14인용 수 5

한 줄 요약

이 논문은 K-means와 트림드 K-means의 한계를 극복하기 위해 타우-스케일 추정기반의 강력한 군집화 알고리즘인 K-Tau Centers를 제안한다. 이 방법은 동시에 높은 붕괴점과 높은 효율성을 달성하며, 군집 중심 추정 과정에서 이상치를 가중치를 낮추기 위해 강력한 스케일 측도를 사용한다. 이는 미세한 조건 하에 진짜 모집단 군집 중심으로 수렴하는 강력한 일致성을 보여주며, 이는 이론적으로 증명되었다.

ABSTRACT

K means is a popular non-parametric clustering procedure introduced by Steinhaus (1956) and further developed by MacQueen (1967). It is known, however, that K means does not perform well in the presence of outliers. Cuesta-Albertos et al (1997) introduced a robust alternative, trimmed K means, which can be tuned to be robust or efficient, but cannot achieve these two properties simultaneously in an adaptive way. To overcome this limitation we propose a new robust clustering procedure called K Tau Centers, which is based on the concept of Tau scale introduced by Yohai and Zamar (1988). We show that K Tau Centers performs well in extensive simulation studies and real data examples. We also show that the centers found by the proposed method are consistent estimators of the "true" centers defined as the minimizers of the the objective function at the population level.

연구 동기 및 목표

• 이상치에 강건하면서도 청소된 데이터에서 효율적인 군집화 절차를 개발하여 트림드 K-means에 내재된 상호 배제적 갈등을 해결하는 것.
• 유클리드 거리 대신 타우-스케일 기반의 강력한 스케일 추정기로 K-means의 이상치에 대한 민감성을 완화하는 것.
• 제안된 추정기의 이론적 일치성을 확립하기 위해, 이가 목적 함수의 모집단 수준 최소화자로 수렴한다는 것을 증명하는 것.
• 사전에 트림 비율을 지정할 필요가 없는 기존의 강력한 군집화 방법에 대한 실용적이고 적응적인 대안을 제공하는 것.

제안 방법

• 이 방법은 타우-스케일 추정기 기반의 강력한 목적 함수를 최소화하여 군집 중심을 정의한다. 이는 높은 가우시안 효율성과 높은 붕괴점을 동시에 확보한다.
• 반복 알고리즘을 사용하여 중심을 계산하며, 타우-스케일은 현재 군집 중심으로부터 데이터 포인트의 거리로부터 계산된다.
• 두 개의 유계, 짝수, 비감소 함수 ρ₁과 ρ₂를 사용하여 타우-스케일을 구성함으로써 강력성과 효율성을 보장한다.
• 사전에 지정된 트림 임계값이 필요 없이, 스케일 추정 과정을 통해 먼 포인트(잠재적 이상치)를 적응적으로 가중치를 낮춘다.
• 강력한 일치성은 컴acts 집합 위에서의 대수법칙의 균일성에 기반하여, 추정된 군집 중심이 모집단 중심으로 하우스도르프 거리 기준 수렴한다는 점에서 확립된다.
• 이론적 근거는 목적 함수의 균일 수렴성과 연속성에 기반한 강력한 일치 결과에서 도출된다.

실험 결과

연구 질문

• RQ1 정상 데이터에서 높은 효율성을 유지하면서도 트림 비율을 사전 지정하지 않고 이상치에 강건한 군집화 절차를 개발할 수 있는가?
• RQ2 군집 중심 추정에 타우-스케일을 사용할 경우, 진짜 모집단 중심으로 수렴하는 일致성 있는 추정기로 이어지는가?
• RQ3 오염된 유한 표본에서 K-Tau Centers의 성능은 K-means와 트림드 K-means에 비해 어떻게 다른가?
• RQ4 일반 조건 하에서 K-Tau Centers 추정기의 일치성에 대한 이론적 근거는 무엇인가?
• RQ5 이 방법은 결측 객체 탐지 문제가 있는 위성 이미지와 같은 실제 데이터에 효과적으로 적용될 수 있는가?

주요 결과

• K-Tau Centers 방법은 높은 붕괴점과 높은 가우시안 효율성을 동시에 달성하여 트림드 K-means의 근본적 상호 배제적 갈등을 극복한다.
• 추정된 군집 중심은 거의 확실하게 목적 함수의 모집단 최소화자로 수렴하는 강력한 일치성을 보인다.
• 시뮬레이션 연구 결과, 이상치 존재 조건 하에서 K-Tau Centers가 K-means와 트림드 K-meанс보다 뛰어난 성능을 보였다.
• 이 방법은 위성 이미지에서 군집을 성공적으로 식별하고, 결측 객체 탐지에 도움을 주어 실용적 유용성을 입증했다.
• 이론적 분석을 통해 추정된 중심과 진짜 중심 사이의 하우스도르프 거리가 거의 확실하게 0으로 수렴한다는 것이 확인되었다.