[論文レビュー] Clustering Using Isoperimetric Number of Trees

Amir Daneshgar, Ramin Javadi+1 more|arXiv (Cornell University)|Mar 19, 2012

Anomaly Detection Techniques and Applications参考文献 14被引用数 3

ひとこと要約

本稿では、最小全域木の等周数を用いて、O(n log n) 時間で正確かつ効率的なクラスタリングを達成する、新しいグラフベースのクラスタリングアルゴリズムを提案する。正規化カット問題の部分集合分割に基づく緩和を導入することで、木構造上の正確な k クラスタリングが可能となり、残留物に基づくアウリヤー特徴付けを同時に実現できる。理論的保証とベンチマークデータセットにおける優れた実験的性能を有する。

ABSTRACT

In this paper we propose a graph-based data clustering algorithm which is based on exact clustering of a minimum spanning tree in terms of a minimum isoperimetry criteria. We show that our basic clustering algorithm runs in $O(n \log n)$ and with post-processing in $O(n^2)$ (worst case) time where $n$ is the size of the data set. We also show that our generalized graph model which also allows the use of potentials at vertices can be used to extract a more detailed pack of information as the {\it outlier profile} of the data set. In this direction we show that our approach can be used to define the concept of an outlier-set in a precise way and we propose approximation algorithms for finding such sets. We also provide a comparative performance analysis of our algorithm with other related ones and we show that the new clustering algorithm (without the outlier extraction procedure) behaves quite effectively even on hard benchmarks and handmade examples.

研究の動機と目的

• 一般のデータクラスタリングを対象とした、グラフ理論的等周性に基づく理論的裏付けがあり、効率的なクラスタリングアルゴリズムの開発。
• 正規化カットとスペクトルクラスタリングの限界を克服するため、分割から部分分割への緩和を施し、自然なアウリヤー検出を可能にする。
• 一般のグラフにおける NP 困難性を克服するため、等周基準を用いて木構造上の k クラスタリングに多項式時間で正確な解を提供する。
• 頂点ポテンシャルを含む一般化されたグラフモデルを用いることで、同時にクラスタリングとアウリヤー集合の特定を実現する。
• 既存手法と比較して、難易度の高いベンチマークおよび人工データセットにおいて優れた実験的性能を示す。

提案手法

• 計算複雑性を低減しつつ、必要な接続性を保持するため、データの類似度グラフから最小全域木（MST）を構築する。
• k-等周性基準（部分分割における正規化フローの最小化）を適用して最適なクラスタ境界を定義し、分割から部分分割への緩和を実施する。
• コア手法は、木構造上での k-等周性問題が多項式時間で解けるという事実を活用した、貪欲で下位から上位へのアプローチにより、最適な k-部分分割を特定する。
• 未クラスタリング頂点を定量化するための残留数を導入し、アウリヤー集合の形式的定義と検出を可能にする。
• 局所スケーリングと頂点ポテンシャルを組み込むことで、データ構造への感受性を高め、パラメータ選択へのロバストネスを向上させる。
• O(n²) 時間の後処理により、クラスタを精緻化し、アウリヤー特徴付けを抽出し、階層的データ類似度分析を支援する。

実験結果

リサーチクエスチョン

• RQ1 k-等周性問題は木構造上で正確かつ効率的に解けるか？ これにより、新しいクラスの正確クラスタリングアルゴリズムが可能になるか？
• RQ2 分割から部分分割への緩和は、クラスタリングのロバストネスを向上させるとともに、自然なアウリヤー検出を可能にするか？
• RQ3 等周アプローチは、難易度の高いクラスタリングベンチマークにおいて、スペクトルクラスタリングや正規化カット手法を上回る性能を示せるか？
• RQ4 頂点ポテンシャルと局所スケーリングの役割は、異常データポイントの検出能力を高める上で果たすか？
• RQ5 残留数は、データにおけるアウリヤー集合を形式的かつ計算可能に測定するためのものとして、どのように機能するか？

主な発見

• k-等周性問題は木構造上で効率的に解けるため、O(n log n) 時間で正確な k クラスタリングが可能であり、これは重要な理論的貢献である。
• アルゴリズムは MST の部分木上で正確なクラスタリングを実行し、従来の手法が用いる反復的分割やスペクトル近似を回避する。
• 残留数を用いたアウリヤー集合の検出が可能であり、3-PARTITION 問題への形式的還元により、一般問題の NP 困難性が証明される。
• 実験結果では、難易度の高いベンチマークおよび人工データセットにおいて優れた性能を示し、さまざまなスケーリングパラメータ下でもアウリヤー抽出に成功している。
• 他の手法とは異なり、局所スケーリングパラメータに対してロバストである。
• 理論的解析により、最適部分分割のコストが構築された木構造上で 1/(B+1) に等しいことが確認され、解が 3-PARTITION 決定問題と関連づけられる。