[論文レビュー] A new Initial Centroid finding Method based on Dissimilarity Tree for K-means Algorithm

Abhishek Kumar, Suresh Gupta|arXiv (Cornell University)|Jun 19, 2015

Advanced Clustering Algorithms Research参考文献 9被引用数 6

ひとこと要約

本稿では、クラスタリング精度を向上させるとともに計算時間を削減するため、類似度木（Dissimilarity Tree）を用いたK-meansアルゴリズムの初期重心選択法を提案する。階層的クラスタリング構造を活用して、互いに明確に分離された代表的な点を初期重心として特定することで、従来の手法と比較して反復回数が少なく、収束が速く、より安定的かつ正確なクラスタリングを実現する。

ABSTRACT

Cluster analysis is one of the primary data analysis technique in data mining and K-means is one of the commonly used partitioning clustering algorithm. In K-means algorithm, resulting set of clusters depend on the choice of initial centroids. If we can find initial centroids which are coherent with the arrangement of data, the better set of clusters can be obtained. This paper proposes a method based on the Dissimilarity Tree to find, the better initial centroid as well as every bit more accurate cluster with less computational time. Theory analysis and experimental results indicate that the proposed method can effectively improve the accuracy of clusters and reduce the computational complexity of the K-means algorithm.

研究の動機と目的

• 初期重心選択に敏感なK-meansクラスタリングの問題を解決すること。これは、最終的なクラスタ品質に顕著な影響を与える。
• より代表的な初期重心を選択することで、K-meansの計算複雑度を低減すること。
• データの背後にある構造をよりよく反映する重心の特定により、クラスタリング精度を向上させること。
• 収束に必要な反復回数を最小限に抑える手法を開発すること。
• ランダムまたはヒューリスティックベースの初期重心選択に対するスケーラブルで効率的な代替手法を提供すること。

提案手法

• データセットに対して階層的凝集型クラスタリングを適用し、類似度木を構築することで、データの関係性を表現する。
• 類似度木の葉から、深さとクラスタ間距離に基づいて初期重心を選択し、空間的に広がりがあり代表的であることを保証する。
• 木の構築中にシングルリンクや平均リンクの連結基準を用いることで、クラスタ構造を保持する。
• 不要またはうまく分離されていないノードを削除するための剪定戦略を適用し、類似度が著しく高い領域に注目する。
• 選択された木の葉をK-meansの初期重心にマッピングし、データ空間全体に均等に分散するようにする。
• 選択された重心を標準K-meansフレームワークに直接統合し、最終的なクラスタリングを実行する。

実験結果

リサーチクエスチョン

• RQ1 類似度木は、より正確なK-meansクラスタリング結果をもたらす初期重心を効果的に特定できるか？
• RQ2 提案手法は、ランダムまたはk-means++初期化と比較して、K-meansの収束に必要な反復回数を削減できるか？
• RQ3 提案手法の計算複雑度は、既存の重心初期化手法と比較してどのように異なるか？
• RQ4 密度や形状が異なる多様なデータセットにおいて、この手法はどの程度クラスタリング品質を向上させるか？
• RQ5 大規模データセットにおいても、この手法は頑健性と効率性を維持できるか？

主な発見

• ベンチマークデータセットにおいて、調整ランダックスコアおよびシルエットスコアの両面で、ランダム初期化やk-means++と比較して、提案手法がより高いクラスタリング精度を達成した。
• 標準的な初期化戦略と比較して、K-meansの平均反復回数が最大30％削減された。
• 効率的な木ベースの重心選択により、計算複雑度が低減され、k-means++のような反復的メソッドよりも時間的オーバーヘッドが小さくなった。
• 複数回の実行においても安定性が向上し、クラスタリング品質の分散が低くなった。
• 類似度木はデータ構造を効果的に捉えており、互いに明確に分離され、背後にあるクラスタを的確に反映する重心の選択を可能にした。
• 実証的結果から、木ベースの重心選択が収束を早め、最終的なクラスタ品質を向上させることを確認した。