[論文レビュー] Performance Comparisons of PSO based Clustering

Suresh Chandra Satapathy, Gunanidhi Pradhan+3 more|arXiv (Cornell University)|Jan 29, 2010

Metaheuristic Optimization Algorithms Research参考文献 7被引用数 7

ひとこと要約

この論文は、5つの実データセットおよび1つの人工データセットを用いて、K-meansと比較して、量子化誤差およびクラスタ間距離を指標として、粒子群最適化（PSO）の変種（gbest、lbest ring、lbest von Neumann、ハイブリッドPSO）のデータクラスタリング性能を評価している。PSOベースの手法はK-meansを上回るクラスタリング品質を示し、lbest von Neumannは大多数のデータセットで最小の量子化誤差を達成した。一方、ハイブリッドPSOはWineおよびHayes Rothデータセットで優れた性能を発揮した。

ABSTRACT

In this paper we have investigated the performance of PSO Particle Swarm Optimization based clustering on few real world data sets and one artificial data set. The performances are measured by two metric namely quantization error and inter-cluster distance. The K means clustering algorithm is first implemented for all data sets, the results of which form the basis of comparison of PSO based approaches. We have explored different variants of PSO such as gbest, lbest ring, lbest vonneumann and Hybrid PSO for comparison purposes. The results reveal that PSO based clustering algorithms perform better compared to K means in all data sets.

研究の動機と目的

• PSOおよびその変種が教師なしデータクラスタリングに有効であるかを評価すること。
• 客観的指標を用いて、PSOベースのクラスタリングを標準的なK-meansアルゴリズムと比較すること。
• PSOがK-meansの初期重心選択への感受性および局所最適解への収束傾向を軽減するかどうかを評価すること。
• 異なるPSOトポロジー（gbest、lbest ring、lbest von Neumann）およびハイブリダイゼーションのクラスタリング性能への影響を調査すること。
• 今後の研究において、PSOを用いて最適なクラスタ数を動的に特定する可能性を検討すること。

提案手法

• 量子化誤差に基づくフィットネス関数を最小化することで、クラスタ重心の位置を最適化する目的でPSOを採用した。
• データポイントとクラスタ重心間の類似度として、ユークリッド距離を用いた。
• gbest、lbest ring、lbest von Neumann、およびK-meansで初期化されたシードを用いたハイブリッドPSOを含む、5つのPSO変種を実装した。
• フィットネス関数を、データポイントとその割り当てられたクラスタ重心間の二乗距離の和として定義した。
• 収束の安定性を確保するため、時間に依存する慣性重み（0.9から0.4）と、固定された加速係数（c1 = c2 = 1.042）を適用した。
• 全アルゴリズムを1000回の関数評価で実行し、10個の粒子を用い、30回のシミュレーションの平均値を算出した。

実験結果

リサーチクエスチョン

• RQ1 PSOベースのクラスタリングは、多様なデータセットにおいてK-meansよりも低い量子化誤差を達成するか？
• RQ2 異なるPSOトポロジー（gbest、lbest ring、lbest von Neumann）は、クラスタリング性能においてどのように比較されるか？
• RQ3 K-meansの結果で初期化されたハイブリッドPSOは、WineやHayes Rothのような複雑なデータセットにおいて、クラスタリング品質を向上させられるか？
• RQ4 PSOの変種は、K-meansと比較して初期条件への感受性をどの程度軽減するか？
• RQ5 量子化誤差およびクラスタ間距離の両方の指標において、一貫して他の手法を上回るPSO変種が存在するか？

主な発見

• PSOベースのクラスタリングは、すべての5つの実データセットおよび1つの人工データセットにおいて、K-meansを上回る一貫した低い量子化誤差を達成した。
• lbest von Neumann PSOは、Iris、Diabetes、およびArtificialデータセットで最小の量子化誤差を記録し、他のすべてのPSO変種を上回った。
• WineおよびHayes Rothデータセットでは、ハイブリッドPSOが量子化誤差およびクラスタ間距離の両方で最良の結果を出した。
• 30回の実行における標準偏差は常に低く、PSOベースのアルゴリズムの収束の安定性を示した。
• PSO変種、特にlbest von NeumannおよびハイブリッドPSOは、クラスタ間距離を最大化しており、より良いクラスタ分離を示唆している。
• 結果から、PSOが初期化が不適切な場合にK-meansが局所最適解に収束する傾向を軽減することが確認された。