[論文レビュー] An Effective Semi-supervised Divisive Clustering Algorithm

Teng Qiu, Yongjie Li|arXiv (Cornell University)|Dec 24, 2014

Advanced Algorithms and Applications被引用数 4

ひとこと要約

本稿では、データから最小全域木を構築し、それを木構造に変換して、ラベル付きデータに従って再帰的に部分木に分割する、新しい半教師付き分割型クラスタリング手法（SDC）を提案する。すべての点がクラスタ中心に直接割り当てられる。SDCは完全に自動的で、反復的ではなく、パラメータフリーであり、ノイズに強く、高次元および不規則な形状のクラスタに対しても有効である。多数のデータセットを用いた評価で優れた性能を示した。

ABSTRACT

Nowadays, data are generated massively and rapidly from scientific fields as bioinformatics, neuroscience and astronomy to business and engineering fields. Cluster analysis, as one of the major data analysis tools, is therefore more significant than ever. We propose in this work an effective Semi-supervised Divisive Clustering algorithm (SDC). Data points are first organized by a minimal spanning tree. Next, this tree structure is transitioned to the in-tree structure, and then divided into sub-trees under the supervision of the labeled data, and in the end, all points in the sub-trees are directly associated with specific cluster centers. SDC is fully automatic, non-iterative, involving no free parameter, insensitive to noise, able to detect irregularly shaped cluster structures, applicable to the data sets of high dimensionality and different attributes. The power of SDC is demonstrated on several datasets.

研究の動機と目的

• 高次元、ノイズ多め、不規則な形状のデータを扱う際の従来のクラスタリング手法の限界を解消すること。
• 限られたラベル付きデータを効果的に統合してクラスタリングプロセスをガイドするアプローチを開発すること。
• パラメータチューニングを必要とせず、ノイズに強く、完全に自動的な非反復的アルゴリズムを構築すること。
• 多様なデータタイプにおいて、複雑で球形でないクラスタ構造を検出可能にする。

提案手法

• 入力データ点から最小全域木（MST）を構築し、全体の構造を捉える。
• 根を選び、エッジを根に向かって向き付けることで、MSTをインツリー構造に変換する。
• ラベル付きデータを用いて、インツリーを部分木に分割する分割型のプロセスをガイドし、各クラスタ内でラベルの一貫性を保証する。
• 反復的最適化を一切行わず、各部分木に属するすべてのデータ点を直接クラスタ中心に割り当てる。
• インツリー構造とラベルのガイドに依存するのみであり、設計上反復的でなく、パラメータフリーであることを保証する。
• 高次元および異種のデータに本手法を適用し、ノイズや不規則な形状に対してもロバスト性を維持する。

実験結果

リサーチクエスチョン

• RQ1 限られたラベル付きデータを有効に活用する半教師付き分割型クラスタリング手法は、クラスタリングの正確性および構造検出能力を向上させることができるか？
• RQ2 非反復的かつパラメータフリーな手法は、高次元データにおける不規則な形状のクラスタをどの程度効果的に検出できるか？
• RQ3 ノイズやデータ属性の変動に対して、このアルゴリズムはどの程度ロバスト性を保つことができるか？
• RQ4 MSTからインツリーへの変換が、効果的な分割型クラスタリングに十分なトポロジカル構造を保持できるか？
• RQ5 多様なデータセットにおいて、提案手法SDCは既存のクラスタリング手法と比較してどの程度の性能を示すか？

主な発見

• SDCアルゴリズムは、従来の重心ベース手法が見過ごしがちな不規則な形状のクラスタを効果的に検出できた。
• 非反復的で構造に基づく分割戦略により、ノイズに対して高いロバスト性を示した。
• ハイパーパrameterチューニングや反復的最適化を一切必要とせず、効果的なクラスタリングを実現した。
• 高次元データに対してもスケーラビリティが高く、多様な属性タイプにわたり性能を維持した。
• 多数のデータセットを用いた実験的評価により、実世界の設定でも本アルゴリズムの有効性と安定性が確認された。