[論文レビュー] Nonparametric graphon estimation

Patrick J. Wolfe, Sofia C. Olhede|arXiv (Cornell University)|Sep 23, 2013

Stochastic processes and statistical mechanics参考文献 27被引用数 137

ひとこと要約

本稿では、ネットワーク構造を表す極限対象であるグラフオンを推定する非パラメトリック枠組みを、プロファイル尤度法を用いて導入する。一般の条件下、特にスパースネットワークやモデル不適合の状況において、グラフオン推定の一貫性と収束速度を確立し、近似理論およびグラフ極限の理論と結びつける。

ABSTRACT

We propose a nonparametric framework for the analysis of networks, based on a natural limit object termed a graphon. We prove consistency of graphon estimation under general conditions, giving rates which include the important practical setting of sparse networks. Our results cover dense and sparse stochastic blockmodels with a growing number of classes, under model misspecification. We use profile likelihood methods, and connect our results to approximation theory, nonparametric function estimation, and the theory of graph limits.

研究の動機と目的

• 特にスパースネットワーク状態における統計的ネットワーク解析のための柔軟で理論的裏付けのあるツールの不足に応えること。
• グラフ極限理論からの極限対象たるグラフオンに基づく非パラメトリックなネットワーク解析枠組みを構築すること。
• 一般の条件下（モデル不適合を含む）におけるグラフオン推定の理論的一貫性と収束速度を確立すること。
• ネットワーク推定を近似理論、非パラメトリック関数推定、およびグラフ極限理論と結びつけること。
• 交換可能なランダムグラフモデルを用いた大規模ネットワークデータにおける整合的な統計的推論の基盤を提供すること。

提案手法

• 隠れ変数 $ \xi_i \sim \text{Uniform}(0,1) $ を持ち、$ A_{ij} \sim \text{Bernoulli}(\rho_n f(\xi_i, \xi_j)) $ と定義される隣接行列 $ A $ を用いてネットワークをモデル化する。ここで $ f $ はグラフオンである。
• 潜在変数 $ \xi_i $ をネイジスパrameterとみなして、グラフオン $ f $ の推定にプロファイル尤度推定を用いる。
• 区間 $[0,1]^2$ を $ k \times k $ 塊に分割し、各々に定数値を割り当てることで、$ f $ のブロックモデル近似を適用し、非パラメトリックスムージングを可能にする。
• 推定誤差を真のグラフオンと推定されたグラフオンの $ L^2 $-ノルムの差に結びつけることで収束速度を確立する。
• バイアスとバリアンスの制御に、近似理論および経験過程理論の道具を活用する。
• グラフオンが測度保存変換に関して不変であることに基づき、同値類を除いて一意に特定可能であることを保証する。

実験結果

リサーチクエスチョン

• RQ1 非パラメトリックなグラフオン推定枠組みは、密な状態とスパース状態の両方で一貫性と収束速度を達成できるか？
• RQ2 特にブロック数が増加する確率的ブロックモデルにおいて、モデル不適合下でのグラフオン推定の性能はいかなるものか？
• RQ3 グラフオン推定と近似理論との理論的関係、特にバイアス・バリアンスのトレードオフの観点から、どのようなものか？
• RQ4 交換可能なランダムネットワークにおける潜在変数 $ \xi_i $ を扱うために、プロファイル尤度法はどのように適合可能か？
• RQ5 ネットワークのスパarsity $ \rho_n \to 0 $ が $ n \to \infty $ の際に、グラフオン推定量の収束速度はどのようになるか？

主な発見

• 提案された非パラメトリックグラフオン推定量は、スパースネットワーク（$ \rho_n \to 0 $）を含む一般の条件下で一貫性を示す。
• 密な状態とスパース状態の両方のネットワーク状態において収束速度が確立され、グラフオンの滑らかさと近似におけるブロック数に明示的な依存関係がある。
• ブロック数が増加する確率的ブロックモデルでさえ、モデル不適合下でもカバー可能である。
• 推定誤差は、真のグラフオンと推定されたグラフオンの差の $ L^2 $-ノルムとの比較によって上限が与えられ、Kullback-Leibler情報量のテイラー展開を用いて収束速度が導出される。
• 測度保存変換におけるグラフオンの不変性を活用することで、同値類を除いて一意に特定可能であることを保証し、一貫性を達成する。
• 理論的結果により、グラフオン推定が非パラメトリック関数推定および近似理論と結びつき、統計的ネットワーク解析の統一的基盤が提供される。