[論文レビュー] Subsampling large graphs and invariance in networks

Peter Orbanz|arXiv (Cornell University)|Oct 11, 2017

Complex Network Analysis Techniques参考文献 36被引用数 14

ひとこと要約

この論文は、大規模なネットワークから一回のサブグラフサンプルから学習するための理論的基盤を確立し、確率的サブサンプリングを分布的不変性およびエルゴドリシティと結びつける。特定のサブサンプリングアルゴリズム—特にランダムな群変換の極限として生じるようなもの—の下では、交換可能性または不変性を持つモデル（例：グラフオン）が誘導され、不変性に基づく同定によって、1つの実現からの一貫性のある推論が可能になる。

ABSTRACT

Specify a randomized algorithm that, given a very large graph or network, extracts a random subgraph. What can we learn about the input graph from a single subsample? We derive laws of large numbers for the sampler output, by relating randomized subsampling to distributional invariance: Assuming an invariance holds is tantamount to assuming the sample has been generated by a specific algorithm. That in turn yields a notion of ergodicity. Sampling algorithms induce model classes---graphon models, sparse generalizations of exchangeable graphs, and random multigraphs with exchangeable edges can all be obtained in this manner, and we specialize our results to a number of examples. One class of sampling algorithms emerges as special: Roughly speaking, those defined as limits of random transformations drawn uniformly from certain sequences of groups. Some known pathologies of network models based on graphons are explained as a form of selection bias.

研究の動機と目的

• 大規模ネットワークから得た1つのサブグラフサンプルが、元のネットワーク構造について一貫した推論を可能にする条件を確立すること。
• 確率的サブサンプリングアルゴリズムと分布的不変性（特に交換可能性およびエルゴドリシティ）との間の関係を形式化すること。
• このようなサブサンプリング手順によって誘導されるモデルクラス（例：グラフオン、スパースな交換可能なグラフ）を同定すること。
• サンプルされたサブグラフの分布が入力ネットワーク構造を一意に決定する条件を同定すること。
• グラフオンモデルにおける既知の病理的現象を、特定のサブサンプリング機構に起因する選択バイアスとして解釈することで解消すること。

提案手法

• 入力グラフサイズ $ n \to \infty $ の極限における形式的フレームワークを提案：確率的アルゴリズムによりサンプリングされた $ k $ 頂点サブグラフの分布は、極限分布 $ P_y = \mathcal{L}(S_\infty(y)) $ に収束する。
• 変換群における分布的不変性（例：交換可能性）を用いてエルゴドリックモデルを定義し、1つのサンプルがほとんど確実に元の分布を特定可能であることを保証する。
• 各ネットワークを、すべてのプレフィックス部分グラフ密度 $ (t_{x_k}(y)) $ からなる無限次元ベクトルに写像する標準的十分統計量 $ \mathbf{t}(y) $ を導入し、$ k $ 頂点誘導部分グラフの法則を表す。
• ボレルのセクション定理を適用して、$ \mathbf{t}(\sigma_Q(s)) = s $ almost surely となる可測セレクタ $ \sigma_Q $ を構成し、サブグラフからのネットワーク特徴量のほとんど確実な回復を可能にする。
• リゾルベントサブサンプリングアルゴリズムを、$ y \equiv_{\text{S}} y' $ iff $ \mathbf{t}(y) = \mathbf{t}(y') $ となるものとして特徴づけ、モデルの同定可能性を保証する。
• ネットワーク空間における収束の下で、$ \mathbf{t}^{(k)}(y) = \mathcal{L}(S_k(y)) $ のプレフィックス密度の収束を $ n $ のネットとして分析し、ネットワーク収束位相における十分統計量の連続性を証明する。

実験結果

リサーチクエスチョン

• RQ1 大規模ネットワークから得た1つのサブグラフサンプルが、元のネットワーク構造を推論するのに十分な情報を含む条件は何か？
• RQ2 確率的サブサンプリングアルゴリズムはどのように分布的対称性（例：交換可能性）を誘導し、どのようなモデルクラスを生成するか？
• RQ3 サンプルされたサブグラフの極限分布がエルゴドリックであるのはいつか？ その場合、1つの実現が唯一の方法で元の分布を特定可能になる。
• RQ4 変換群における不変性が、1つのサンプルからの一貫性のある推論を保証するために果たす役割は何か？
• RQ5 グラフオンモデルにおける特定の病理的現象はなぜ生じるのか？ そして、それらは特定のサブサンプリング機構に起因する選択バイアスとして説明可能か？

主な発見

• サブサンプリングアルゴリズムが、適切な変換群の下で不変である限り、その極限サブグラフ分布が不変である場合に限り、モデルクラス（例：グラフオン、スパースな交換可能なグラフ）が誘導される。
• 極限サブグラフ分布 $ P_y = \mathcal{L}(S_\infty(y)) $ がエルゴドリックであることは、サブサンプリングアルゴリズムが特定の不変性条件を満たすことと同値であり、その場合1つのサンプルから元の分布を同定可能である。
• 各ネットワークをすべてのプレフィックス部分グラフ密度からなるベクトルに写像する十分統計量 $ \mathbf{t}(y) $ は、ネットワーク収束位相において連続である。
• リゾルベントサブサンプリングアルゴリズムでは、$ y \equiv_{\text{S}} y' $ であることは $ \mathbf{t}(y) = \mathbf{t}(y') $ であることと同値であり、これにより異なるネットワークが異なるサブグラフ分布を生成することが保証される。
• 可測セレクタ $ \sigma_Q $ が存在して $ \mathbf{t}(\sigma_Q(s)) = s $ almost surely となることから、$ \mathbf{t} $ に対して可測な特徴量 $ f(y) $ はサブグラフからほとんど確実に回復可能である。
• グラフオンモデルにおける既知の病理的現象は、非リゾルベントなサブサンプリングアルゴリズム、特に一様なランダム群作用の極限として得られないものに起因する選択バイアスに起因することが示された。