[論文レビュー] A Complex Networks Approach for Data Clustering

Francisco A. Rodrigues, Guilherme Ferraz de Arruda+1 more|arXiv (Cornell University)|Jan 26, 2011

Complex Network Analysis Techniques参考文献 1被引用数 4

ひとこと要約

本稿では、複雑ネットワーク理論を用いた新しいデータクラスタリング手法を提案する。データポイントは類似度メトリクス（例：チェビシェフ、マンハッタン）によって重み付けされたエッジで接続されたノードとしてネットワークにモデル化され、コミュニティ検出アルゴリズム（例：fastgreedy）を用いてコミュニティが同定される。本手法は、クラスタ数を自動で特定でき、k-means や EM といった従来手法を上回る高いクラスタリング精度を達成し、特に非球形および重複するクラスタに対して優れた性能を示す。

ABSTRACT

Many methods have been developed for data clustering, such as k-means, expectation maximization and algorithms based on graph theory. In this latter case, graphs are generally constructed by taking into account the Euclidian distance as a similarity measure, and partitioned using spectral methods. However, these methods are not accurate when the clusters are not well separated. In addition, it is not possible to automatically determine the number of clusters. These limitations can be overcome by taking into account network community identification algorithms. In this work, we propose a methodology for data clustering based on complex networks theory. We compare different metrics for quantifying the similarity between objects and take into account three community finding techniques. This approach is applied to two real-world databases and to two sets of artificially generated data. By comparing our method with traditional clustering approaches, we verify that the proximity measures given by the Chebyshev and Manhattan distances are the most suitable metrics to quantify the similarity between objects. In addition, the community identification method based on the greedy optimization provides the smallest misclassification rates.

研究の動機と目的

• 従来のグラフベースのクラスタリング手法の限界（固定されたクラスタ数、非分離または複雑な形状のクラスタでの性能劣化）を解消すること。
• クラスタリングに適した正確なデータネットワークを構築するための、さまざまな類似度メトリクス（ユークリッド、マンハッタン、チェビシェフなど）の有効性を評価すること。
• 複雑ネットワーク内のクラスタを同定するためのコミュニティ検出アルゴリズム（例：fastgreedy、モジュラリティ最適化）の比較を行うこと。
• 複雑ネットワークに基づくクラスタリングが、従来手法よりも低い誤分類率を達成すると同時に、クラスタ数を自動で特定できることを示すこと。
• 人工データセット（複雑なクラスタ構造を有する）および実世界のデータベースを用いて、提案手法の有効性を検証すること。

提案手法

• データポイントは、ユークリッド、マンハッタン、チェビシェフ、Tanimoto 距離を含む類似度メトリクスに基づいてエッジを定義することでネットワークに変換される。
• 類似度値は、ネットワーク構造およびコミュニティ検出の正確性を向上させるために、指数関数的または逆関数的変換が施される。
• コミュニティ検出には、fastgreedy、リーディング固有ベクトル、walktrap の3つのアルゴリズムが用いられ、最適なクラスタ数の特定にはモジュラリティの最大化が利用される。
• クラスタ数は、最大のモジュラリティ値を持つパーティションを選択することで自動的に決定され、事前の k の指定が不要になる。
• ネットワーク構築には、スパarsity と計算効率を確保するため k-近傍法が用いられる。
• 性能評価は、誤分類誤差率を用い、複雑ネットワーク手法と k-means、cobweb、EM、farthest-first クラスタリングの比較が行われる。

実験結果

リサーチクエスチョン

• RQ1 どの類似度メトリクス（例：チェビシェフ、マンハッタン、ユークリッド）が、複雑なデータ構造のクラスタリングに最も正確なネットワーク表現をもたらすか？
• RQ2 コミュニティ検出アルゴリズム（fastgreedy、リーディング固有ベクトル、walktrap）のクラスタリング精度および計算効率は、どのように比較されるか？
• RQ3 複雑ネットワーク手法は、事前の知識なしにクラスタ数を自動で特定できるか？ また、k を入力として必要とする手法と比較してどうか？
• RQ4 ネットワークベースのクラスタリング手法は、人工的および実世界のデータセットにおいて、k-means や EM といった従来のアルゴリズムよりも低い誤分類率を達成するか？
• RQ5 異なるデータ分布（例：密度が異なる半円形クラスタ）は、提案手法の性能にどのように影響を与えるか？

主な発見

• 実世界のデータベースでは、マンハッタン距離の指数関数とチェビシェフ距離の逆関数が、最小の誤分類率を示し、類似度を捉える上で優位性を示した。
• 半円形クラスタを有する人工データセットでは、マンハッタン距離およびチェビシェフ距離の指数関数的変換が、点の密度が高くなるにつれて最小の誤差率を達成した。
• fastgreedy コミュニティ検出アルゴリズムが最小の誤分類率を達成し、リーディング固有ベクトルおよび walktrap アルゴリズムを上回る効率性を示した。
• 複雑ネットワークに基づく手法は、k-means や cobweb よりも顕著に低い誤差率を達成し、特に非球形および重複するクラスタでは従来手法が失敗する状況でも優れた性能を示した。
• モジュラリティ最大化によりクラスタ数が自動で特定され、k の事前の指定が不要であり、さまざまなクラスタ形状および密度を持つデータセットにおいても安定した性能を示した。
• クラスタ数が既知（k=2）の場合でも、複雑ネットワーク手法は k-means や cobweb を上回り、その頑健性と正確性を裏付けた。