[논문 리뷰] Generating a Diverse Set of High-Quality Clusterings

Jeff M. Phillips, Parasaran Raman외 1명|arXiv (Cornell University)|2011. 07. 29.

Advanced Clustering Algorithms Research참고 문헌 9인용 수 7

한 줄 요약

이 논문은 품질에 비례하는 분할 샘플링을 통해 먼저 고품질의 분할을 추출한 후, k-center 클러스터링을 이용해 k개의 대표 분할을 선택하는 이단계 프레임워크를 제안한다. 이 방법은 높은 다양성과 품질을 달성하며, 75%의 분할이 가장 가까운 대표 분할로부터 멀리 떨어져 있고, 75%의 생성된 분할이 기준 분할에 비해 공통화 방법보다 높은 품질을 보였다.

ABSTRACT

We provide a new framework for generating multiple good quality partitions (clusterings) of a single data set. Our approach decomposes this problem into two components, generating many high-quality partitions, and then grouping these partitions to obtain k representatives. The decomposition makes the approach extremely modular and allows us to optimize various criteria that control the choice of representative partitions.

연구 동기 및 목표

• 단일 데이터셋으로부터 다수의 다양하고 고품질의 클러스터링을 생성하는 데 도전하는 데 목적이 있으며, 기존 방법이 초기 분할에 크게 의존하거나 고품질 분할의 전체 공간을 탐색하지 못하는 한계를 극복한다.
• 클러스터링의 품질과 다양성 간의 상관관계를 분리하여, 이전에 생성된 해에 대한 편향 없이 분할 공간을 보다 포괄적으로 탐색할 수 있도록 한다.
• 최종적으로 k개의 대표 클러스터링 집합이 고품질 분할의 전체 구조를 포괄하도록 보장하여 중복을 방지하고 데이터 구조에 대한 통찰력을 향상시킨다.
• 다양한 기준에 따라 대표 분할을 선택하는 데 최적화된 모듈러한 프레임워크를 제공하여, 다양한 분석적 요구에 유연성을 제공한다.

제안 방법

• 먼저 마르코프 체인 몬테카를로 방법을 사용하여 총 m = 4000개의 분할(초기 1000개 제거 후)을 생성하며, 이는 품질에 비례하는 분할 공간에서 샘플링된 것으로, 품질은 커널 거리로 측정된다.
• 생성된 분할들에 대해 k-center 클러스터링 알고리즘(Gonzalez의 방법)을 적용하여 상호 간 최소 거리가 최대가 되도록 k개의 대표 분할을 선택함으로써 다양성을 확보한다.
• 남은 3990개의 분할 각각을 가장 가까운 대표 분할에 할당하고, 각 대표 분할의 품질과 LiftEMD 거리 평가를 수행한다.
• 분할 간의 거리 측정에 LiftEMD(Lifted Earth Mover's Distance)를 사용하여 클러스터링 구조 간의 안정적인 비교를 가능하게 한다.
• 기준 데이터셋(Iris, Yale Face, 2D5C)을 대상으로 평가하며, 품질 비교를 위해 기준 분할을 사용하고, 분할 공간의 구조를 시각화하기 위해 다차원 척도법을 적용한다.
• k-means, 연결 방법, Ward의 방법을 입력으로 사용한 LiftSSD를 이용한 공통화 클러스터링과 비교하며, 평가 지표로 상대적 품질(커널 거리 비율)과 LiftEMD를 사용한다.

실험 결과

연구 질문

• RQ1 품질과 다양성을 분리하는 이단계 프레임워크는 기존 방법보다 더 포괄적이고 대표적인 고품질 분할 집합을 생성할 수 있는가?
• RQ2 LiftEMD 거리로 측정했을 때, 최종 k개의 대표 클러스터링 간의 다양성은 어느 정도 확보되는가?
• RQ3 생성된 대표 분할의 품질은 특히 기준 분할에 대한 상대적 커널 거리 측면에서 공통화 기반 방법보다 어떻게 비교되는가?
• RQ4 품질에 비례하는 샘플링 전략은 다양한 데이터 구조와 클러스터링 패턴에서 고품질 분할을 효과적으로 포괄하는가?

주요 결과

• Iris 데이터셋에서 약 75%의 생성된 분할이 가장 가까운 대표 분할로부터 1.3 이상의 LiftEMD 거리를 가지며, 강력한 다양성을 나타낸다.
• 생성된 분할의 품질 분포는 정규분포를 띠며, 기준 분할에 비해 평균이 0.62에서 0.80 사이에 위치하여 일관된 고품질을 보였다.
• 75%의 경우에서 생성된 분할의 품질이 k-means, 연결 방법, Ward의 방법을 입력으로 사용한 LiftSSD로 생성된 공통화 분할의 품질을 초월했다.
• 다차원 척도법을 사용한 시각화 결과 각 대표 분할 주변에 잘 분리된 분할 군집이 관찰되어 분할 공간 내에서의 공간적 다양성이 확인되었다.
• Yale Face 데이터셋에서 대표 분할은 자세 기반 및 사람 기반의 클러스터링 구조를 성공적으로 포착하여, 이 방법이 의미 있는 데이터 패턴을 회복할 수 있음을 보여주었다.
• 이 방법은 입력 분할 집합이 몇 가지 클러스터링 알고리즘이나 시드에 국한되지 않도록 보장하여 고품질 분할 공간의 더 넓은 커버리지가 가능해졌으며, 공통화 기반 접근법을 능가하는 성능을 보였다.