[論文レビュー] Inference for multiple heterogeneous networks with a common invariant subspace

Jesús Arroyo, Avanti Athreya+4 more|PubMed|Jun 24, 2019

Functional Brain Connectivity Studies参考文献 62被引用数 42

ひとこと要約

この論文はCOSIEを紹介する。複数の整列グラフのための共有不変部分空間を持つ柔軟なモデルと、共通構造とグラフ固有パラメータを同時に推定するMASEスペクトル埋め込みを提案し、異種ネットワーク間でのスケーラブルな推論を実現する。

ABSTRACT

The development of models and methodology for the analysis of data from multiple heterogeneous networks is of importance both in statistical network theory and across a wide spectrum of application domains. Although single-graph analysis is well-studied, multiple graph inference is largely unexplored, in part because of the challenges inherent in appropriately modeling graph differences and yet retaining sufficient model simplicity to render estimation feasible. This paper addresses exactly this gap, by introducing a new model, the common subspace independent-edge multiple random graph model, which describes a heterogeneous collection of networks with a shared latent structure on the vertices but potentially different connectivity patterns for each graph. The model encompasses many popular network representations, including the stochastic blockmodel. The model is both flexible enough to meaningfully account for important graph differences, and tractable enough to allow for accurate inference in multiple networks. In particular, a joint spectral embedding of adjacency matrices-the multiple adjacency spectral embedding-leads to simultaneous consistent estimation of underlying parameters for each graph. Under mild additional assumptions, the estimates satisfy asymptotic normality and yield improvements for graph eigenvalue estimation. In both simulated and real data, the model and the embedding can be deployed for a number of subsequent network inference tasks, including dimensionality reduction, classification, hypothesis testing, and community detection. Specifically, when the embedding is applied to a data set of connectomes constructed through diffusion magnetic resonance imaging, the result is an accurate classification of brain scans by human subject and a meaningful determination of heterogeneity across scans of different individuals.

研究の動機と目的

• 共有潜在構造を捉えつつグラフ固有の不均一性を許容する、整列グラフの集合に対するセミパラメトリックモデルの動機付けと開発。
• グラフ間で共通の部分空間を活用して、共有パラメータとグラフ固有パラメータの両方を推定する、実用的でスケーラブルな推定手順を導入。
• 堅牢な希薄性仮定の下での一貫性と漸近正規性を含む推定量の理論的性質を示す。
• COSIEフレームワークが次元削減、分類、仮説検定、コミュニティ検出などの下流タスクをどのようにサポートするかを示す。
• シミュレーションデータと実際のコネクトームデータでアプローチを検証し、推論性能と分類性能の改善を示す。

提案手法

• 各グラフが期待値を V R^(i) V^T と持ち、共通の直交部分空間 V とグラフ固有のスコア行列 R^(i) を持つCOSIEモデルを定義する。
• 隣接スペクトル埋め込みを用いて \\hat{X}^(i) を得て、頂点埋め込みを積み上げてトップd左特異ベクトルを抽出してVを推定するMASEを構成する。
• 推定されたVを用いて R^(i) を最小二乗で推定する，すなわち R^(i) = V^T A^(i) V。
• 共通部分空間 V が直交変換まで一貫性を持つことを証明し、delocalizationと穏やかな希薄性条件の下で R^(i) の漸近正規性を確立する。
• E[min_W in O_d ||\\hat{V} - V W||_F] <= C(1/sqrt(nm) + 1/n) を示す理論的境界を提供し、m によって偏り項が減衰することを議論する。
• 識別可能性の結果と、R^(i) と V が直交変換まで識別可能であること、下流の推定への含意を議論する。

実験結果

リサーチクエスチョン

• RQ1 簡単で柔軟な複数グラフモデルは、現実の異質なネットワークを近似しつつ、実行可能性を保てるか。
• RQ2 共通の部分空間構造をどう活用して複数グラフ間のグラフ固有パラメータを推定するか。
• RQ3 穏やかな希薄性の下で提案推定量の統計的性質（一貫性、漸近正規性）はどうなるか。
• RQ4 COSIE–MASEフレームワークを用いて、コミュニティ検出、分類、仮説検定などのタスクをグラフ集合でどう実現できるか。
• RQ5 実データのコネクトームデータセットとシミュレーションデータで、既存手法と比べてどのような性能を示すか。

主な発見

• MASEは共通部分空間 V とグラフ固有のスコア行列 R^(i) の一貫した推定をもたらす。
• 穏やかな希薄性とdelocalizationの下で、R^(i) の推定はProcrustes整列後に漸近正規性を持つ。
• 有限サンプルの境界を提供し、部分空間推定誤差がグラフ数 m とグラフサイズ n の両方で低減することを示す。
• COSIEは stochastic blockmodels を含む既存モデルを一般化し、次元削減を O(mn^2) から O(nd + md^2) に削減する。
• MASEは次元削減、分類、仮説検定、コミュニティ検出などの下流タスクを複数グラフにまたがって効果的に可能にする。
• 実データのコネクトームで、被験者分類の精度と被験者間の異質性評価の妥当性を示す。