[論文レビュー] Network cross-validation by edge sampling

Tianxi Li, Elizaveta Levina+1 more|arXiv (Cornell University)|Dec 14, 2016

Complex Network Analysis Techniques参考文献 79被引用数 18

ひとこと要約

本稿では、ノードではなくノードペアを分割することで、ネットワークモデル選択およびパrameterチューニングのための有効な交差検証を可能にする、新しいネットワークリサンプリング手法であるエッジクロスバリデーション（ECV）を提案する。部分的に観測されたネットワークを低ランク行列補完問題として扱うことで、ECVは統計的妥当性を維持し、ブロックモデル選択や正則化パrameterのチューニングを含む多様なタスクで優れた性能を発揮する。

ABSTRACT

While many statistical models and methods are now available for network analysis, resampling network data remains a challenging problem. Cross-validation is a useful general tool for model selection and parameter tuning, but is not directly applicable to networks since splitting network nodes into groups requires deleting edges and destroys some of the network structure. Here we propose a new network resampling strategy based on splitting node pairs rather than nodes applicable to cross-validation for a wide range of network model selection tasks. We provide a theoretical justification for our method in a general setting and examples of how our method can be used in specific network model selection and parameter tuning tasks. Numerical results on simulated networks and on a citation network of statisticians show that this cross-validation approach works well for model selection.

研究の動機と目的

• ノードを分割する際の構造的依存性のため、標準的な交差検証をネットワークに適用することが困難であるという課題に対処すること。
• ネットワーク構造を保ちながら、一般用途のネットワークモデル選択およびパrameterチューニングのためのリサンプリング戦略を開発すること。
• ネットワークの期待隣接行列に低ランク構造が成り立つ場合に、エッジベースの交差検証が理論的に正当化されることを示すこと。
• ストキャスティックブロックモデル、ラティス空間モデル、グラフンモデルを含む多様なネットワークモデルにおいて、本手法の有効性を示すこと。
• 相関のあるエッジを含むネットワークにおけるエッジ独立性の違反に対するロバストネスを評価すること。

提案手法

• ノードペア (i,j)（i<j）をフォールドに分割することで、エッジクロスバリデーション（ECV）を提案する。ノードの分割ではなくエッジを分割する。
• 各フォールドに対して、対応するエッジを削除し、残りのネットワークを部分的に観測されたネットワークとして扱う。
• 核ノルム最小化やhardImputeなどのアルゴリズムを用いて、低ランク行列補完を実行し、ネットワークを再構築する。
• 完成したネットワークを用いてモデルをフィットさせ評価し、フォールド間で交差検証誤差を計算する。
• 理論的正当性は、低ランク構造のもとで、完成した行列が真の期待隣接行列 M に集中することに依拠する。
• 本手法はバイナリネットワークおよび重み付きネットワークに適用可能であり、有向および無向グラフをサポートする。

実験結果

リサーチクエスチョン

• RQ1 標準的なノードベースの分割がネットワーク構造を破壊するため、交差検証をネットワークデータに意味的に適用できるか？
• RQ2 エッジベースのサンプリングは、有効なモデル選択およびパrameterチューニングに必要な統計的性質を保持するか？
• RQ3 ECVは、スチュアスティックブロックモデルのバリエーション間の選択において、既存手法と比較してどのように性能を発揮するか？
• RQ4 相関のあるエッジを含むネットワークにおいて、ECVはエッジ独立性の違反に対してどの程度ロバストか？
• RQ5 ECVは、グラフンモデルにおけるスペクトルクラスタリングおよびネイバーヒーブスモoothingの正則化パrameterチューニングに効果的に対応できるか？

主な発見

• β = 0.2 および β = 0.3 のブロックモデルでは、ECVは100％の正しくモデル選択率を達成し、β = 0.4 の場合は0％となる。これは、コミュニティ間エッジ密度が低い状況での優れた性能を示している。
• ECVのhardImputeバージョンは、行列補完誤差が低く（0.20 vs. 0.26 フロベニウスノルム）、モデル選択精度は類似している。これは、良好な補完が選択に十分であることを示唆している。
• 相関のあるエッジを含むシミュレーションにおいて、ECVは全ρ値（0〜0.5）で100％の正しくコミュニティ推定率を維持しており、エッジ依存性に対してロバストであることを示している。
• Chen & Leiの手法は、エッジ依存性が増加するにつれてモデル選択性能が低下（0.98 → 0.95）する一方、ECVは安定している。
• 安定性選択を用いたECVは、高レベルのエッジ依存性（ρ = 0.5）でも100％の正しく選択率を維持しており、挑戦的な状況下でベースライン手法を上回っている。
• ECVの実行時間は非常に短い（0.06秒）一方、hardImputeはFortranで実装されており、より高速な実行が期待される（0.27秒）。