[논문 리뷰] Online Cluster Validity Indices for Streaming Data

Masud Moshtaghi, James C. Bezdek외 3명|arXiv (Cornell University)|2018. 01. 08.

Advanced Clustering Algorithms Research참고 문헌 20인용 수 10

한 줄 요약

이 논문은 스트리밍 데이터를 위한 증분 클러스터 적합도 지표(iCVIs)를 소개하며, 정확한 업데이트와 忽略 계수 기반 업데이트를 사용한 Xie-Beni 및 Davies-Bouldin 지표의 온라인 버전을 제안한다. 忽略 계수를 사용한 증분 Xie-Beni 지표(XBλ(n))는 실시간으로 클러스터의 진화를 탐지하고 이상 현상을 신호로 보낼 때 다른 변종보다 뛰어난 성능을 보인다.

ABSTRACT

Cluster analysis is used to explore structure in unlabeled data sets in a wide range of applications. An important part of cluster analysis is validating the quality of computationally obtained clusters. A large number of different internal indices have been developed for validation in the offline setting. However, this concept has not been extended to the online setting. A key challenge is to find an efficient incremental formulation of an index that can capture both cohesion and separation of the clusters over potentially infinite data streams. In this paper, we develop two online versions (with and without forgetting factors) of the Xie-Beni and Davies-Bouldin internal validity indices, and analyze their characteristics, using two streaming clustering algorithms (sk-means and online ellipsoidal clustering), and illustrate their use in monitoring evolving clusters in streaming data. We also show that incremental cluster validity indices are capable of sending a distress signal to online monitors when evolving clusters go awry. Our numerical examples indicate that the incremental Xie-Beni index with forgetting factor is superior to the other three indices tested.

연구 동기 및 목표

• 단일 패assing 데이터 액세스로 인해 배치 검증 기법이 적용되지 않는 스트리밍 데이터에 대한 온라인 클러스터 검증 방법의 부족을 해결하기 위해.
• 데이터가 스트리밍되는 동안 실시간으로 클러스터 품질을 평가할 수 있는 내부 클러스터 적합도 지표의 증분 형식을 개발하기 위해.
• 온라인 클러스터링 알고리즘들이 클러스터 품질을 자가 모니터링하고 새로운 클러스터가 나타나거나 품질이 악화되는 것을 감지할 수 있도록 하기 위해.
• 실세계 데이터셋을 사용하여 이러한 iCVIs가 변화하는 데이터 스트림에서 의미 있는 변화를 탐지하는 데 성능을 평가하기 위해.
• 시간이 지남에 따라 클러스터 품질 평가의 관련성을 유지하는 데에 忽略 전략과 비-忽약 전략의 효과를 비교하기 위해.

제안 방법

• 내부 클러스터 산산화를 위한 두 가지 증분 방법을 제안: 정확한 재귀적 업데이트와 지수적 忽略 계수 기반 업데이트.
• 증분 산산화 추정치를 사용하여 Xie-Beni(XB) 및 Davies-Bouldin(DB) 지표의 온라인 버전을 유도한다.
• iCVIs를 두 가지 온라인 클러스터링 알고리즘에 적용: 시간 기억이 없는 sk-means와 클러스터 통계를 기억하는 온라인 타원형 클러스터링(OEC).
• 최소 최적 지표를 사용하여 클러스터 품질을 동적으로 모니터링하며, 값이 증가할 경우 열악해짐을 신호로 보낸다.
• 지수적 忽略 계수를 도입하여 오래된 데이터의 영향을 줄여 개념 이동에 대한 반응성을 향상시킨다.
• 실세계 스트리밍 데이터셋인 LG(환경 센서)와 GSA(가스 센서 어레이)에서 iCVIs를 검증하며, 시각적 및 정량적 분석을 수행한다.

실험 결과

연구 질문

• RQ1 내부 클러스터 적합도 지표는 스트리밍 데이터의 증분 처리에 적합하게 수정될 수 있는가?
• RQ2 iCVIs의 忽略 및 비-忽약 형식은 클러스터의 진화와 이상 현상 탐지에 어떤 영향을 미치는가?
• RQ3 iCVIs는 실시간으로 클러스터링 성능이 열악해지거나 새로운 클러스터가 나타날 때 효과적으로 신호를 보낼 수 있는가?
• RQ4 시간 기억이 있는(예: OEC) 및 없는(예: sk-means) 클러스터링 알고리즘 간의 iCVIs 성능는 어떻게 비교되는가?
• RQ5 네 가지 iCVIs(XB(n), XBλ(n), DB(n), DBλ(n)) 중에서 스트리밍 클러스터 품질 모니터링에 가장 신뢰할 수 있는 것은 무엇인가?

주요 결과

• 기존의 세 가지 iCVI와 비교해 볼 때, 忽略 계수를 사용한 증분 Xie-Beni 지표(XBλ(n))가 클러스터 변화 탐지 및 이상 신호 발행에 뛰어난 성능을 보였다.
• OEC는 공분산을 포함한 클러스터 통계를 유지하므로, sk-means보다 훨씬 뛰어난 클러스터 품질을 보였으며, 이는 낮은 iCVI 값으로 나타났다.
• LG 데이터셋에서는 강풍과 눈 오림과 같은 주요 사건이 발생할 때 지표 값에 명확한 피크가 나타나, 정확한 시간 단계에서 탐지되었다.
• GSA 데이터셋에서는 가스 주입 후 두 개의 가까운 피크가 나타나며 지연된 반응을 보였으며, 이는 알고리즘이 변화하는 클러스터 구조에 적응하는 것을 반영했다.
• iCVIs는 클러스터 품질이 열악해질 경우 '위기 신호'를 실시간으로 보낼 수 있는 비지도 검증 메커니즘을 제공하여 사전 모니터링이 가능하다.
• 비-忽약 형식의 iCVI(e.g., XB(n))는 개념 이동에 적응하지 못하지만, 忽略 형식(e.g., XBλ(n))은 오래된 데이터의 영향을 줄여 관련성을 유지한다.