[論文レビュー] Regular Decomposition: an information and graph theoretic approach to stochastic block models

Hannu Reittu, Fülöp Bazsó+1 more|arXiv (Cornell University)|Apr 24, 2017

Complex Network Analysis Techniques参考文献 28被引用数 9

ひとこと要約

本稿では、確率的ブロックモデル（SBMs）を用いて生成される大規模で密なグラフにおけるブロック構造を検出するための情報理論的かつグラフ理論的な手法であるRegular Decomposition（RD）を紹介する。Szemerédiの正則性補題と最小記述長（MDL）原理を組み合わせることで、コード長を最小化することで最適なブロック数を特定し、真のブロック数でコード長が plateau に達する。これにより、大規模ネットワークにおける一貫性があり実用的なコミュニティ検出が可能になる。

ABSTRACT

A method for compression of large graphs and non-negative matrices to a block structure is proposed. Szemerédi's regularity lemma is used as heuristic motivation of the significance of stochastic block models. Another ingredient of the method is Rissanen's minimum description length principle (MDL). We propose practical algorithms and provide theoretical results on the accuracy of the method.

研究の動機と目的

• 確率的ブロックモデル（SBMs）から生成される大規模で密なグラフにおけるブロック構造を検出する厳密で一貫性のある手法を開発すること。
• 決定的正則性を確率的SBMに基づくモデルに置き換えることで、Szemerédiの正則性補題を実用的なネットワーク解析と結びつけること。
• 最小記述長（MDL）原理をグラフ圧縮およびブロック構造検出に適用し、モデル選択の一貫性を保証すること。
• コード長の変動に着目して真のブロック数を特定する実用的なアルゴリズムを提供すること。

提案手法

• 大規模グラフにおけるブロック構造の重要性を正当化するために、Szemerédiの正則性補題を理論的基盤として用いる。
• グラフの最適なブロック構造を特定するために、最小記述長（MDL）原理を適用し、合計コード長を最小化する。
• 2段階のMDLコードを用いる：1つはブロック構造に、もう1つはブロック内でのエッジ確率に割り当てられる。
• Chernoffの不等式とKullback-Leibler発散度を用いて、エッジ密度の逸脱確率を分析し、高確率でε-正則性を満たすことを保証する。
• 漸近的モデル複雑度を導出し、コード長が真のブロック数に達するまで減少し、その後は plateau に達することを示す。
• 行列への応用を可能とするPoissonian構成を用いて、グラフに限らない応用可能性を拡張する。

実験結果

リサーチクエスチョン

• RQ1 グラフサイズが増加する際、MDL原理を用いて確率的ブロックモデル（SBM）における真のブロック数を一貫して検出できるか？
• RQ2 SBMから生成されたグラフのコード長は、ブロック数を増加させると単調に減少し、真のブロック数で plateau に達するか？
• RQ3 Szemerédiの正則性補題とMDLの組み合わせが、大規模で密なグラフにおける一貫性があり実用的なブロック検出を可能にする仕組みは何か？
• RQ4 コード長の漸近的挙動は真のブロック構造とどのように関係し、モデル選択基準としてどのように利用できるか？
• RQ5 シミュレーションにより示されるように、有限で現実的なグラフサイズにおいて、この手法はどの程度有効に機能するか？

主な発見

• コード長はブロック数を増加させると真のブロック数に達するまで単調に減少し、その後はほとんど変化しない plateau に達する。
• 任意のε > 0に対して、n >> ε⁻⁴ が成り立つ限り、n が大きくなるにつれて、分割は高確率でε-正則性を満たす。
• コード長が真のブロック数で plateau に達するため、コード長の変曲点を検出することで、正しいブロック構造を特定する実用的なアルゴリズムが可能になる。
• シミュレーションにより、コード長の plateau は比較的小さなグラフサイズでも観測可能であることが確認され、手法の実用性が裏付けられる。
• この手法は一貫性がある：n → ∞ のとき、MDLに基づくブロック検出は高確率で真のブロック数を正しく特定する。
• Poissonianブロックモデルの変種は、主な理論的性質を保持しており、KL発散度とエントロピー関数がPoisson分布に適合されて行列圧縮に応用されている。