[논문 리뷰] Goal Clustering: VNS based heuristics

Pedro Martins|arXiv (Cornell University)|2017. 05. 22.

Facility Location and Emergency Management참고 문헌 19인용 수 3

한 줄 요약

이 논문은 R-제곱 비율이 사전에 정의된 임계값을 충족시키면서 군집 수를 최소화하는 목표 군집화(Goal Clustering, GC) 문제를 해결하기 위해 두 가지 변동 이웃 탐색(VNS) 기반 휴리스틱을 제안한다. 이 방법들은 k-means 및 워드 알고리즘을 사용해 초기 해를 생성하며, 계산 결과에 따르면 특히 메모리 집약적인 문제에서 VNS/Ward’s-GC가 뛰어난 성능을 보였다.

ABSTRACT

Given a set V of n elements on m attributes, we want to find a partition of V on the minimum number of clusters such that the associated R-squared ratio is at least a given threshold. We denote this problem as Goal Clustering (GC). This problem represents a new perspective, characterizing a different methodology within unsupervised non-hierarchical clustering. In effect, while in the k-means we set the number of clusters in advance and then test the associated R-squared ratio; in the GC we set an R-squared threshold lower limit in advance and minimize k. We present two Variable Neighborhood Search (VNS) based heuristics for the GC problem. The two heuristics use different methodologies to start the VNS algorithms. One is based on the Ward's construction and the other one resorts to the k-means method. Computational tests are conducted over a set of large sized instances in order to show the performance of the two proposed heuristics.

연구 동기 및 목표

• k-means와 마찬가지로 군집 수를 고정하는 것이 아니라, 최소 R-제곱 임계값을 충족시키면서 군집 수를 최소화하는 비계층적 군집화 문제를 해결하기 위해 제안한다.
• R-제곱 비율을 하한선으로 제약하고 군집 수를 최소화하는 새로운 군집화 패러다임을 도입한다.
• GC 문제에 대해 k-means 및 워드 알고리즘을 초기 해 생성기로 사용하는 두 가지 VNS 기반 휴리스틱을 개발하고 평가한다.
• 정규 분포 및 균일 분포를 가진 합성 데이터와 유전자 발현 및 ETF 가격 시계열을 포함한 실제 데이터셋에 대해 성능을 테스트한다.
• 특성별로 개별 R² 임계값을 설정하여 중요도의 차이를 반영하는 향후 확장 가능성을 탐색한다.

제안 방법

• GC 문제는 R²(P) ≥ R²T 를 만족시키면서 군집 수 k 를 최소화하는 것으로 수식화된다. 여기서 R² 는 총 군간 변동성 대비 총 변동성의 비율을 측정한다.
• R² 비율은 SSB/SST 로 계산되며, SSB 와 SST 는 각 속성의 군간 및 총 군합 제곱합에서 유도된다.
• 두 가지 VNS 기반 휴리스틱, 즉 VNS/k-means-GC 와 VNS/Ward’s-GC 를 제안하며, 초기 해 구성 방식에서 차이를 가진다.
• VNS 프레임워크는 국소 최적해에서 벗어나기 위해 다양한 이웃 구조를 탐색하며, 최대 흔들기 단계 수(r_max)로 종료 조건을 제어한다.
• 초기 해는 k-means 및 워드 알고리즘을 통해 생성되며, 후자는 더 안정적인 초기 분할을 제공한다.
• 알고리즘은 합성 인스턴스(n=100–10,000, m=3–100)와 실제 데이터셋(1,744개 유전자, 3,028일 ETF)에서 평가되며, 성능은 군집 수와 실행 시간으로 측정된다.

실험 결과

연구 질문

• RQ1 비계층적 군집화에서 최소 R-제곱 임계값을 충족시키면서 군집 수를 최소화하는 데 있어 VNS 기반 휴리스틱의 효과는 어떠한가?
• RQ2 초기 해 선택(k-means 대비 워드 알고리즘)이 GC 문제에서 VNS의 성능과 해 품질에 상당한 영향을 미치는가?
• RQ3 문제 크기가 증가함에 따라, 특히 대규모 인스턴스(n ≥ 5,000)에서 제안된 휴리스틱의 스케일링 능력은 어떠한가?
• RQ4 VNS/k-means-GC 와 VNS/Ward’s-GC 휴리스틱은 마이크로어레이 유전자 발현 및 ETF 가격 시계열과 같은 실제 데이터셋을 효율적으로 해결할 수 있는가?
• RQ5 정규 분포 대비 균일 분포와 같은 다양한 데이터 분포에서 해 품질과 실행 시간 간의 계산적 트레이드오프는 어떠한가?

주요 결과

• 작은 인스턴스(n ≤ 1000)에서는 VNS/k-means-GC 가 VNS/Ward’s-GC 보다 우수했으며, 특히 속성 수가 적은 경우(m ≤ 5) 더 적은 군집을 도출했다.
• 큰 인스턴스(n = 5,000 및 10,000)에서는 VNS/k-means-GC 가 메모리 및 시간 제약로 인해 비가능해져 VNS/Ward’s-GC 로 제한되었다.
• 마이크로어레이 유전자 발현 데이터셋(1,744개 유전자, 45개 샘플)에서 VNS/k-means-GC 는 9시간 이내에 문제를 해결했고, VNS/Ward’s-GC 는 3시간 이내에 근사해를 제공했다.
• ETF 가격 시계열 데이터셋(3,028일, 22개 국가)에서는 VNS/k-means-GC 가 약 7시간이 소요된 반면, VNS/Ward’s-GC 는 1시간 이내에 해결했다.
• 대규모 및 실제 데이터셋에서 VNS/Ward’s-GC 는 더 뛰어난 확장성과 효율성을 보였으며, k-means 기반 초기화에 비해 실행 시간이 더 길었음에도 불구하고.
• 결과적으로 워드 초기화 방식이 k-means 보다 대규모 GC 문제에서 더 안정적이고 메모리 효율적이며, 특히 균일 분포 데이터에서 유의미한 이점을 가진다.