[論文レビュー] Global and Local Information in Clustering Labeled Block Models

Varun Kanade, Elchanan Mossel+1 more|arXiv (Cornell University)|Jan 1, 2014

Complex Network Analysis Techniques被引用数 2

ひとこと要約

本稿は、ネットワーク構造と部分的なノードラベル情報を組み合わせたラベル付き確率的ブロックモデルを研究し、クラスタリングを目的とする。スパースなネットワークにおいて2つのクラスタを想定した場合、局所的クラスタリングは、クラスタ数が十分に大きい場合に限り、最小限のノードラベル情報でのみ可能である。そうでない場合には、グローバルな情報が不可欠であり、再構築閾値未満では局所的アルゴリズムは失敗する。主な貢献は、高クラスタ数の状況下で、ノードラベルの可用性が局所的回復を効率的に行う上で重要な役割を果たすことを確立することにある。

ABSTRACT

The stochastic block model is a classical cluster-exhibiting random graph model that has been widely studied in statistics, physics and computer science. In its simplest form, the model is a random graph with two equal-sized clusters, with intra-cluster edge probability p, and inter-cluster edge probability q. We focus on the sparse case, i.e. p, q = O(1/n), which is practically more relevant and also mathematically more challenging. A conjecture of Decelle, Krzakala, Moore and Zdeborova, based on ideas from statistical physics, predicted a specific threshold for clustering. The negative direction of the conjecture was proved by Mossel, Neeman and Sly (2012), and more recently the positive direction was proven independently by Massoulie and Mossel, Neeman, and Sly. In many real network clustering problems, nodes contain information as well. We study the interplay between node and network information in clustering by studying a labeled block model, where in addition to the edge information, the true cluster labels of a small fraction of the nodes are revealed. In the case of two clusters, we show that below the threshold, a small amount of node information does not affect recovery. On the other hand, we show that for any small amount of information efficient local clustering is achievable as long as the number of clusters is sufficiently large (as a function of the amount of revealed information).

研究の動機と目的

• スパースなネットワークにおけるグローバルなネットワーク構造と部分的なノードラベル情報の相互作用を理解すること。
• スパースな確率的ブロックモデルにおいて、少量のノードラベルが公開されている場合に、効率的な局所的クラスタリングが可能かどうかを調査すること。
• 局所的アルゴリズムがクラスタ構造の回復においてグローバル推論を上回る条件を特定すること。
• ノードラベルが部分的に公開されている状況での局所的クラスタリングの可能性に関する理論的閾値を確立すること。
• 最小限のラベル情報による対称性の打破がクラスタリング回復に果たす役割を解明すること。

提案手法

• ネットワーク構造に加えて、少数のノードラベルが公開されるラベル付き確率的ブロックモデルを提案する。
• 局所的近傍をモデル化し、公開されたノードからの情報伝播を分析するために、ガルトン＝ウォーソン木の近似を用いる。
• 木と確率的ブロックモデルとの間のカップリングを用いて、木の結果をグラフに拡張する。
• 条件付きエントロピーとマルコフ性の議論を用いて、局所的情報が不十分な場合、グローバル情報が役立たないことを示す。
• 木上のブロードキャストプロセスの結果（例：Evansら [12]）を応用し、ノードラベルの予測誤差の期待値を評価する。
• 濃度不等式と漸近的解析を用いて、nが大きくかつラベル割合pが小さい極限における収束速度を導出する。

実験結果

リサーチクエスチョン

• RQ1 2つのクラスタを持つスパースな確率的ブロックモデルにおいて、少量の公開ノードラベルが局所的クラスタリングを可能にするか。
• RQ2 ノードラベルが部分的に公開されている状況で、どのような条件下で局所的クラスタリングが可能になるか。
• RQ3 クラスタ数が、最小限のラベル情報下での局所的クラスタリングの可能性に影響を与えるか。
• RQ4 局所的情報が不十分な場合、クラスタリング回復のためにはグローバル情報が必要か。
• RQ5 ノードラベルの存在が、古典的再構築閾値未満での対称性の打破をどのように可能にし、回復を可能にするか。

主な発見

• 2クラスタの場合、再構築閾値未満では、少数のノードラベルが公開されていても、局所的クラスタリングは不可能である。
• ラベル情報の量が固定されている限り、クラスタ数が十分に大きければ、局所的クラスタリングは可能になる。
• もし (a−b)² < 2(a+b) ならば、局所的情報と部分的なラベルのみを用いたノードラベル予測の期待誤差は、1/2 × √(p / (1 − (a−b)²/(2(a+b)))) で有界であり、p→0 の極限で 1/2 に収束することが示される。
• 局所的情報が不十分な場合、グローバル情報はノードラベルの条件付きエントロピーを最大値を超えて向上させない。
• グローバルグラフと部分的なラベルが与えられたときのノードラベルの条件付きエントロピーは、局所的情報が弱いときに漸近的に最大値に達し、グローバル構造による改善は見られない。
• 結果から、局所的回復のためにはノードラベルによる対称性の打破が不可欠であり、この効果は木構造的な局所的構造を破るのに十分なクラスタ数が存在する場合にのみ有効であることが明らかになった。