[論文レビュー] Generating a Diverse Set of High-Quality Clusterings

Jeff M. Phillips, Parasaran Raman+1 more|arXiv (Cornell University)|Jul 29, 2011

Advanced Clustering Algorithms Research参考文献 9被引用数 7

ひとこと要約

本稿では、最初に品質に比例してパーティションをサンプリングし、その後k-センタークラスタリングによりk個の代表的パーティションを選択することで、多様で高品質なクラスタリングの集合を生成する2段階フレームワークを提案する。この手法は高い多様性と品質を達成しており、75%のパーティションが最も近い代表パーティションから離れており、75%の生成パーティションが基準パーティションに対する品質でコンSENSUS手法を上回っている。

ABSTRACT

We provide a new framework for generating multiple good quality partitions (clusterings) of a single data set. Our approach decomposes this problem into two components, generating many high-quality partitions, and then grouping these partitions to obtain k representatives. The decomposition makes the approach extremely modular and allows us to optimize various criteria that control the choice of representative partitions.

研究の動機と目的

• 1つのデータセットから複数の多様で高品質なクラスタリングを生成する課題に取り組み、既存手法が初期パーティションに強く依存するか、高品質なパーティションの全空間を十分に探索できないという限界を克服すること。
• クラスタリングの品質と多様性を分離することで、以前に生成された解に偏りがない、パーティション空間の包括的かつバランスの取れた探索を可能にすること。
• 最終的なk個の代表的クラスタリングが、重複を避けて高品質なパーティションの全体像を捉え、データ構造の理解を深めることを保証すること。
• 代表的パーティションの選択にさまざまな基準を最適化できるモジュラーなフレームワークを提供することで、異なる分析ニーズに柔軟に対応できること。

提案手法

• まず、マルコフ連鎖モンテカルロ法を用いてm = 4000個のパーティション（初期の1000個を除外後）を生成し、品質に比例して全パーティション空間からサンプリングする。品質はカーネル距離で測定される。
• 生成されたパーティションに対してk-センタークラスタリング（ゴンザレス法）を適用し、互いに最小距離が最大になるようにk個の代表的パーティションを選択することで多様性を確保する。
• 残りの3990個のパーティションは、それぞれ最も近い代表パーティションに割り当てられ、各代表パーティションの品質およびLiftEMD距離が評価される。
• パーティション間の距離指標としてLiftEMD（リフトド・エアス・マナー・ディスタンス）を用いることで、クラスタリング構造の堅牢な比較が可能になる。
• ベンチマークデータセット（Iris, Yale Face, 2D5C）を用いて評価し、品質比較の基準として基準パーティションを用い、パーティション空間の構造を可視化するために多次元スケーリングを適用する。
• k-means、リンク法、ウォード法を入力として用いたLiftSSDを用いたコンセンサスクラスタリングと比較し、相対的品質（カーネル距離比）およびLiftEMDを評価指標として用いる。

実験結果

リサーチクエスチョン

• RQ1 品質と多様性を分離する2段階フレームワークは、既存手法に比べて、より包括的かつ代表的な高品質パーティションの集合を生成できるか？
• RQ2 提案手法は、最終的なk個の代表的クラスタリングの多様性をLiftEMD距離（最も近い代表パーティションまでの距離）でどの程度確保しているか？
• RQ3 生成された代表的パーティションの品質は、特に基準パーティションに対する相対的カーネル距離の観点から、コンセンサスベースの手法と比べてどうか？
• RQ4 品質に比例するサンプリング戦略は、異なるデータ構造やクラスタリングパターンにおいて、高品質なパーティションを効果的に捉えているか？

主な発見

• Irisデータセットでは、生成されたパーティションの約75%が、最も近い代表パーティションからLiftEMD距離1.3以上離れており、強い多様性が示された。
• 生成パーティションの品質分布は正規分布に近く、基準パーティションに対する平均は0.62〜0.80の間であり、一貫した高品質性が確認された。
• 75%のケースで、生成パーティションの品質が複数のクラスタリングアルゴリズムを入力として用いたLiftSSDによるコンセンサスパーティションを上回った。
• 多次元スケーリングによる可視化では、各代表パーティションの周囲に明確に分離されたパーティションクラスタが確認され、パーティション空間における空間的多様性が裏付けられた。
• Yale Faceデータセットにおける代表パーティションは、ポーズベースおよび人物ベースのクラスタリング構造を的確に捉えており、本手法が意味のあるデータパターンを回復できることを示した。
• 本手法は、入力パーティション集合が少数のクラスタリングアルゴリズムや初期値に限定されないため、コンセンサスベースの手法に比べ、高品質なパーティション空間のカバー範囲が広がった。