[論文レビュー] Community recovery in non-binary and temporal stochastic block models

Konstantin Avrachenkov, Maximilien Dreveton+1 more|arXiv (Cornell University)|Aug 11, 2020

Complex Network Analysis Techniques被引用数 5

ひとこと要約

本稿は、カテゴリカル、ベクトル値、さらには時系列データを含む非二値および時系列的ネットワークデータを扱う一般化された確率的ブロックモデル（SBM）を導入する。本稿では、コミュニティ回復のための情報理論的境界を導出し、鋭い一致性の閾値を確立するとともに、データの非二値構造を完全に活用する高速なオンラインアルゴリズムを提案する。数値実験では、スパースな設定下でも高い精度が得られることを示している。

ABSTRACT

This article studies the estimation of latent community memberships from pairwise interactions in a network of $N$ nodes, where the observed interactions can be of arbitrary type, including binary, categorical, and vector-valued, and not excluding even more general objects such as time series or spatial point patterns. As a generative model for such data, we introduce a stochastic block model with a general measurable interaction space $\mathcal S$, for which we derive information-theoretic bounds for the minimum achievable error rate. These bounds yield sharp criteria for the existence of consistent and strongly consistent estimators in terms of data sparsity, statistical similarity between intra- and inter-block interaction distributions, and the shape and size of the interaction space. The general framework makes it possible to study temporal and multiplex networks with $\mathcal S = \{0,1\}^T$, in settings where both $N o \infty$ and $T o \infty$, and the temporal interaction patterns are correlated over time. For temporal Markov interactions, we derive sharp consistency thresholds. We also present fast online estimation algorithms which fully utilise the non-binary nature of the observed data. Numerical experiments on synthetic and real data show that these algorithms rapidly produce accurate estimates even for very sparse data arrays.

研究の動機と目的

• 非二値的および時系列的ネットワーク、一般の可測な相互作用空間を持つ多重ネットワークを含む、任意の相互作用タイプに拡張された確率的ブロックモデルの構築。
• このようなモデルにおけるコミュニティ回復の分類誤差に関する情報理論的下限および上限を導出すること。
• 特にデータのスパarsityおよび内部ブロック・外部ブロックの相互作用分布間の統計的類似性制約下で、静的および時系列的SBMの鋭い一貫性閾値を確立すること。
• 非二値データを完全に活用する高速かつオンラインな推定アルゴリズムの開発。カテゴリカルモデルにおける$O(L)$の計算コストを回避すること。
• 合成および実世界の時系列的・非二値的ネットワークデータを用いた数値実験により、理論的知見の妥当性を検証すること。

提案手法

• 相互作用空間$\mathcal{S}$を有する一般化されたSBMを導入。時間系列やベクトル値データを含む、任意の可測な相互作用タイプを許容する。
• 内部ブロックと外部ブロックの相互作用分布間の統計的区別可能性を測定するため、Rényi発散と情報理論的発散を用いる。
• スパースかつ不均一なネットワークに適用可能な定量的Fano不等式のバージョンを用いて、分類誤差の下限を導出する。
• マルコフ過程に従う時系列的SBMに対して、$\alpha > 1$のRényi発散の上限を、遷移確率の比が有界である条件下で導出する。
• アルゴリズム1として、ノード単位のラベル精錬とコンSENSUSに基づくオンライン推定手法を提案。大規模ネットワークへのスケーラビリティを実現する。
• 集中不等式とモーメント生成関数を用いて、発散推定の尾部挙動を制限し、一貫性の証明を可能にする。

実験結果

リサーチクエスチョン

• RQ1 任意の相互作用空間を持つ非二値的確率的ブロックモデルにおいて、どのような条件下で一貫したコミュニティ回復が可能となるか。
• RQ2 データのスパarsityおよび内部ブロック・外部ブロックの相互作用分布間の統計的類似性が、コミュニティ回復における最小達成誤差率にどのように影響するか。
• RQ3 $N$および$T$がともに増加するとき、マルコフ連鎖に従う時系列的SBMの鋭い一貫性閾値は何か。
• RQ4 オンラインアルゴリズムは、非二値的データの性質を完全に活用しながら、カテゴリカルモデルの$O(L)$の計算量を回避して一貫した推定を達成できるか。
• RQ5 提案されたアルゴリズムは、スパースかつ高次元のネットワークデータにおいて、既存手法と比較して精度およびスケーラビリティの面で優れているか。

主な発見

• 本稿では、内部ブロックおよび外部ブロックの相互作用分布間のRényi発散に依存する鋭い情報理論的分類誤差下限を確立した。
• マルコフ過程に従う時系列的SBMでは、Rényi発散が$O(\rho T)$で有界であり、ここで$\rho$は統計的類似性の尺度、$T$は時間ステップ数である。
• 遷移確率の比が有界であり、かつ$\Lambda = P_{11}^\alpha Q_{11}^{1-\alpha} < 1$である場合、Rényi発散は$\rho T$に関して指数関数的に増加する可能性があるが、一貫性閾値の確立が可能である。
• 提案されたオンラインアルゴリズムは、局所統計を用いて反復的にノードラベルを精錬することで、大規模かつスパースなネットワークにおいて一貫したコミュニティ回復を達成する。
• 数値実験では、アルゴリズムが急速に収束し、データがスパースであっても正確な推定値を生成することが示された。静的集約手法を上回る性能を発揮した。
• 理論的一貫性閾値はタイトであり、実験的性能と一致しており、情報理論的境界の妥当性が裏付けられた。