[論文レビュー] The blessing of transitivity in sparse and stochastic networks

Karl Rohe, Tai Qin|arXiv (Cornell University)|Jul 8, 2013

Complex Network Analysis Techniques参考文献 50被引用数 12

ひとこと要約

この論文は、スパースなネットワークにおける推移性を活用することで、高い確率で小さな密集したコミュニティを同定する局所的クラスタリングアルゴリズムを提案する。局所的ストークスティックブロックモデルの下で、このアルゴリズムは、巨大でスパースなグラフであっても、固定サイズのクラスタを信頼性高く回復できることを証明しており、実世界のネットワークにおける局所的クラスタリング手法の頑健な経験的性能に対する理論的裏付けを初めて提供する。

ABSTRACT

The interaction between transitivity and sparsity, two common features in empirical networks, implies that there are local regions of large sparse networks that are dense. We call this the blessing of transitivity and it has consequences for both modeling and inference. Extant research suggests that statistical inference for the Stochastic Blockmodel is more difficult when the edges are sparse. However, this conclusion is confounded by the fact that the asymptotic limit in all of the previous studies is not merely sparse, but also non-transitive. To retain transitivity, the blocks cannot grow faster than the expected degree. Thus, in sparse models, the blocks must remain asymptotically small. Previous algorithmic research demonstrates that small "local" clusters are more amenable to computation, visualization, and interpretation when compared to "global" graph partitions. This paper provides the first statistical results that demonstrate how these small transitive clusters are also more amenable to statistical estimation. Theorem 2 shows that a "local" clustering algorithm can, with high probability, detect a transitive stochastic block of a fixed size (e.g. 30 nodes) embedded in a large graph. The only constraint on the ambient graph is that it is large and sparse--it could be generated at random or by an adversary--suggesting a theoretical explanation for the robust empirical performance of local clustering algorithms.

研究の動機と目的

• スパースさと推移性の相互作用によって、従来の漸近的枠組みが失敗するスパースかつ推移的ネットワークにおける統計的推論の課題に取り組む。
• 推移性が、巨大でスパースなグラフにおける小さな固定サイズのコミュニティを高確率で回復できるように、局所的クラスタリングアルゴリズムが可能であることを示す。
• 単一のクラスタが、可能な敵対的構造を有するスパースネットワークに埋め込まれていると仮定する、新しい局所的ストークスティックブロックモデルを提案する。
• グローバルなネットワーク構造に関する最小限の仮定の下で、局所的クラスタリングアルゴリズムに対する統計的保証を初めて提供し、クラスタ以外の部分が巨大で未知の構造であっても頑健であることを示す。
• 推移性がエッジの情報を漸近的に高めることを示し、局所的クラスタリング手法の経験的成功を説明する。

提案手法

• 平均次数 $ \tau $ を用いた正規化局所隣接行列 $ L_\tau $ におけるしきい値に基づき、シードノードから反復的にクラスタを拡張する局所的クラスタリングアルゴリズム LocalTrans を提案する。
• 局所構造の安定化と局所的推移的パターンへの感度向上を目的に、正則化された隣接行列 $ L_\tau = A + \tau I $ を用いる。
• 近隣ノードに対してしきい値ルールを適用し、共通の隣接ノード数とエッジ密度に基づいて、シードノードと高い類似性を持つノードを含める。
• 単一のブロックが固定サイズで、任意の外部構造を有する巨大でスパースなグラフに埋め込まれた局所的ストークスティックブロックモデルを導入する。
• 条件付き密度の議論を用いて、推移的モデル下で、$ A_{ij} = 1 $ のとき、潜在変数 $ \xi_i, \xi_j $ が漸近的に集中することを示し、エッジが非常に情報的になることを示す。
• スペクトル的手法と近隣に基づく手法を用いてクラスタを検出する。実ネットワーク（ePonions や Slashdot）を用いた可視化と経験的検証も実施している。

実験結果

リサーチクエスチョン

• RQ1 推移性とスパースさが確率的ブロックモデルに与える影響は何か？ これによりどのような新しい漸近的枠組みが生じるか？
• RQ2 局所的クラスタリングアルゴリズムは、巨大でスパースかつ可能な敵対的構造を有するネットワークにおいても、小さな固定サイズのコミュニティを信頼性高く回復できるか？
• RQ3 グローバル構造に関する仮定が欠如しているにもかかわらず、なぜ局所的クラスタリングアルゴリズムは実際には頑健に機能するのか？
• RQ4 グローバルネットワーク構造に関する最小限の仮定の下で、局所的クラスタリングにどのような統計的保証を提供できるか？
• RQ5 推移性はスパースネットワークにおけるエッジの情報性をどのように高めるのか？ これには推論と推定にどのような意味があるか？

主な発見

• スパースで推移的なネットワークでは、局所的領域が密集し、『推移性のおかげで得られる利点』（blessing of transitivity）と呼ばれる現象が生じ、エッジが漸近的に推論に非常に有用になる。
• 定理2は、環境グラフが巨大でスパースであれば、グローバル構造に依存せず、固定サイズの確率的ブロックを高確率で回復できる局所的クラスタリングアルゴリズムが存在することを証明している。
• 提案された LocalTrans アルゴリズムは、ePonions や Slashdot といった実世界のネットワークにおいてクラスタを効果的に検出できており、可視化により、クラスタがクライク型、平面的、あるいは弱連結なタイプの多様な構造を示している。
• GlobalTrans で $ A $ の代わりに $ L_\tau $ を用いることで、性能が著しく向上し、スラッシュドットネットワークで20ノードを超えるクラスタの検出が可能になった。これは、従来の手法が同定できなかったクラスタである。
• 多くのノードにおいて、しきい値を低下させるとクラスタの拡大が急激に進行するが、『ゆっくり成長する』シードノードでは拡大が段階的に進行する。これは、アルゴリズムが局所構造に敏感であることを示している。
• 理論的結果により、局所的ストークスティックブロックモデル下で、LocalTrans は、グラフの残り部分が敵対的に構造化されていても、真のクラスタを高確率で回復できることを示している。