[論文レビュー] Optimal Rates for Community Estimation in the Weighted Stochastic Block Model

Min Xu, Varun Jog+1 more|arXiv (Cornell University)|Jun 5, 2017

Complex Network Analysis Techniques参考文献 38被引用数 9

ひとこと要約

本稿は、コミュニティ参加に基づいて未知の連続分布から生成される辺重みを有する重み付き stochastic block model (WSBM) におけるコミュニティ推定の最適レートを確立する。辺重みの離散化に基づく計算的に効率的で完全に適応可能なアルゴリズムを提案し、情報理論的最適な誤分類誤差率を達成する。この誤差率は、コミュニティ内およびコミュニティ間の辺重み密度分布間の1/2次レニー相互情報量によって規定される。

ABSTRACT

Community identification in a network is an important problem in fields such as social science, neuroscience, and genetics. Over the past decade, stochastic block models (SBMs) have emerged as a popular statistical framework for this problem. However, SBMs have an important limitation in that they are suited only for networks with unweighted edges; in various scientific applications, disregarding the edge weights may result in a loss of valuable information. We study a weighted generalization of the SBM, in which observations are collected in the form of a weighted adjacency matrix and the weight of each edge is generated independently from an unknown probability density determined by the community membership of its endpoints. We characterize the optimal rate of misclustering error of the weighted SBM in terms of the Renyi divergence of order 1/2 between the weight distributions of within-community and between-community edges, substantially generalizing existing results for unweighted SBMs. Furthermore, we present a computationally tractable algorithm based on discretization that achieves the optimal error rate. Our method is adaptive in the sense that the algorithm, without assuming knowledge of the weight densities, performs as well as the best algorithm that knows the weight densities.

研究の動機と目的

• 辺重みがコミュニティ参加に基づいて未知の分布から生成される重み付き stochastic block model (WSBM) における誤分類誤差の最適レートを同定すること。
• 基礎となる重み密度分布の事前知識を必要としない、WSBM におけるコミュニティ推定の計算的に実行可能なアルゴリズムを開発すること。
• WSBM フレームワークにおける任意のアルゴリズムの誤分類誤差レートに対する根本的な情報理論的下界を確立すること。
• 従来の無重み付き SBM の結果を一般化し、最適レートがコミュニティ内およびコミュニティ間の辺重み密度分布間の1/2次レニー相互情報量によって規定されることを示すこと。
• 提案されたアルゴリズムが、重み密度を完全に把握した最良のアルゴリズムと同等の性能を達成するが、実際にはその知識を必要としない、適応的であることの証明すること。

提案手法

• 辺重みが、コミュニティ内とコミュニティ間の両方のエッジに対してそれぞれ独立に、未知の連続確率密度から生成される重み付き stochastic block model を提案する。
• 置換同変なアルゴリズムを用いた誤分類誤差レートの情報理論的下界を導出する。その際、エッジ確率および重み密度の混合分布間の1/2次レニー相互情報量を用いる。
• エッジ重み空間をボックスに分割し、その結果得られる離散的隣接行列に対してスペクトルクラスタリングを適用する、離散化に基づくアルゴリズムを導入する。
• アルゴリズムの収束レートが導出された下界と一致することを示し、最適性を証明する。
• コミュニティ内およびコミュニティ間のエッジ重み分布間の分離度を測る主要な指標として、1/2次レニー相互情報量を用いる。
• パrametricな族を仮定しない非パラメトリック技術を用いることで、任意の未知密度に対応可能であり、広範な適用性を確保する。

実験結果

リサーチクエスチョン

• RQ1 連続的辺重みを有する重み付き stochastic block model における誤分類誤差の根本的限界（最適レート）は何か？
• RQ2 基礎となる重み密度分布の事前知識なしに、計算的に効率的なアルゴリズムがこの最適レートに到達可能か？
• RQ3 無重み付き SBM における既知の結果を一般化すると、重み付き SBM における最適レートはどのように変化するか？（無重み付き SBM では、最適レートはエッジ確率の差にのみ依存する。）
• RQ4 1/2次レニー相互情報量は、WSBM におけるコミュニティ内およびコミュニティ間のエッジ重み分布間の分離度をどのように特徴づけるか？
• RQ5 重み密度を完全に把握した最良のアルゴリズムと同等の性能を発揮するが、実際にはその知識を必要としない適応的アルゴリズムを設計可能か？

主な発見

• 重み付き stochastic block model における誤分類誤差の最適レートは、コミュニティ内およびコミュニティ間エッジのエッジ確率および重み密度の混合分布間の1/2次レニー相互情報量によって規定される。
• 提案された離散化に基づくアルゴリズムは最適誤差レートに到達し、完全に適応的である。つまり、真の重み密度を完全に把握した最良のアルゴリズムと同等の性能を発揮する。
• 誤分類誤差の情報理論的下界は、すべての置換同変なアルゴリズムに成立し、ミニマックス設定に限定されず、パrameter空間全体に適用可能である。
• 最適レートは、従来の無重み付き SBM の結果を一般化しており、最適レートが2つのベルヌーイ分布間の1/2次レニー相互情報量に依存するという事実と整合する。
• 解析により、平均の分離がなくても、重み分布の分散、形状、または高次モーメントの差を活用することでコミュニティ検出の性能を向上させられることを示した。
• 理論的境界はレニー相互情報量および対数不等式を用いて導出され、近似誤差の厳密な制御は補題 H.1 および H.2 を用いてなされ、結果としてレートの最適性が保証される。