[論文レビュー] Graph Degree Linkage: Agglomerative Clustering on a Directed Graph

Wei Zhang, Xiaogang Wang+2 more|arXiv (Cornell University)|Aug 25, 2012

Advanced Clustering Algorithms Research参考文献 1被引用数 23

ひとこと要約

本稿では、有向K近傍グラフからのインデグリとアウトグリを用いてクラスタ類縁度を測定する、新しい凝集型クラスタリング手法であるGraph Degree Linkage (GDL) を提案する。平均インデグリ（密度の代理）と平均アウトグリ（局所的な幾何構造）を組み合わせることで、ノイズやマルチスケールクラスタに対して高い頑健性を示し、画像クラスタリングやオブジェクトマッチングにおいて、最先端の手法を上回る高い効率性と単純さを実現する。

ABSTRACT

This paper proposes a simple but effective graph-based agglomerative algorithm, for clustering high-dimensional data. We explore the different roles of two fundamental concepts in graph theory, indegree and outdegree, in the context of clustering. The average indegree reflects the density near a sample, and the average outdegree characterizes the local geometry around a sample. Based on such insights, we define the affinity measure of clusters via the product of average indegree and average outdegree. The product-based affinity makes our algorithm robust to noise. The algorithm has three main advantages: good performance, easy implementation, and high computational efficiency. We test the algorithm on two fundamental computer vision problems: image clustering and object matching. Extensive experiments demonstrate that it outperforms the state-of-the-arts in both applications.

研究の動機と目的

• コンピュータビジョンで一般的な高次元・ノイズ多め・マルチスケールなデータにおける、古典的凝集型クラスタリングの限界を解消すること。
• 特に局所的な密度と幾何構造を捉えるために、グラフ理論におけるインデグリとアウトグリの未利用の役割を探索すること。
• 画像クラスタリングやオブジェクトマッチングといった実世界のビジョンタスクで、既存手法を上回る単純で効果的なクラスタリングアルゴリズムを開発すること。
• 従来のリンク法の代替として、多様体構造をより良く保ち、ノイズや外れ値に強く対処できる、原理的でグラフベースの代替手法を提供すること。

提案手法

• 高次元データの対比較距離から有向K近傍（K-NN）グラフを構築し、局所的な多様体構造をモデル化する。
• 頂点のクラスタへの構造的類縁度を、その平均インデグリ（頂点周辺の密度）と平均アウトグリ（クラスタとの類似度）の積として定義する。
• 両方のクラスタに属するすべての頂点におけるインデグリとアウトグリの積を集約してクラスタ間類縁度を計算し、異なる密度を持つクラスタの分離を頑健に可能にする。
• この積に基づく類縁度測度を、停止基準を満たすまで繰り返し類縁度の高いクラスタを統合する凝集型クラスタリングフレームワークに組み込む。
• 固定されたパラメータ（例：K=35, n_T=50）を用い、K-NNグラフ構造に基づいて外れ値クラスタを除去する後処理を含む。
• 類縁度計算と外れ値検出の両方において、外部の幾何的事前知識に依存せず、K-NNグラフにのみ依存する。

実験結果

リサーチクエスチョン

• RQ1 有向K-NNグラフにおけるインデグリとアウトグリは、凝集型クラスタリングにおけるクラスタ類縁度の有効で補完的な指標として機能するか？
• RQ2 インデグリとアウトグリの積は、標準的なリンク法やスペクトルクラスタリングと比較して、ノイズや外れ値に対してどのように頑健性を向上させるか？
• RQ3 本グラフベースのアプローチは、実世界のビジョンデータに一般的な異なる密度・サイズ・形状を持つデータを効果的にクラスタリングできるか？
• RQ4 提案手法は、画像クラスタリングやオブジェクトマッチングといった挑戦的なビジョンアプリケーションで、最先端のクラスタリングアルゴリズムを上回るか？

主な発見

• GDLは、合成マルチスケールデータセットにおいて、アフィニティプロパゲーション、スペクトルクラスタリング、有向グラフスペクトルクラスタリングを含む最先端手法を上回り、異なる密度と形状を持つクラスタを正しく同定している。
• オブジェクトマッチングタスクでは、変形度、外れ値数、共通部分画像数が変化するさまざまな条件下で、95.6％のランダム試行においてACCおよびGSを上回るFスコアを達成している。
• インデグリとアウトグリの積を用いることで、空間的近接性は似ているが密度が異なるクラスタを分離できるという点で、ノイズや外れ値に対して強い頑健性を示している。
• 計算効率が高く、実装が容易で、特に考慮する上位クラスタ数（n_T）の設定範囲が広いにもかかわらず、パラメータ設定に強く安定した性能を示している。
• 類縁度測度としての積は、異なるクラスタ間におけるインデグリとアウトグリの相関を効果的に捉えており、相関が弱いことから明確なクラスタ分離が可能である。
• K-NNグラフに基づく後処理により、追加の幾何的情報を必要とせず外れ値クラスタを効果的に除去でき、最終的なクラスタリング精度が向上した。