[論文レビュー] Recovering Network Structure from Aggregated Relational Data using Penalized Regression

Hossein Alidaee, Eric Auerbach+1 more|arXiv (Cornell University)|Jan 16, 2020

Complex Network Analysis Techniques参考文献 14被引用数 14

ひとこと要約

本稿では、核ノルム正則化回帰を用いて、集約的関係データ（ARD）から潜在的ソーシャルネットワーク構造を回復する非パrametricで頻度主義的手法を提案する。多くの経済的ネットワークの有効なランクが低いことに着目し、有限標本における誤差バウンドを達成することで、RおよびPythonコード（GitHubで公開）を用いて数百人のエージェントに対して数秒で高速計算が可能となる。

ABSTRACT

Social network data can be expensive to collect. Breza et al. (2017) propose aggregated relational data (ARD) as a low-cost substitute that can be used to recover the structure of a latent social network when it is generated by a specific parametric random effects model. Our main observation is that many economic network formation models produce networks that are effectively low-rank. As a consequence, network recovery from ARD is generally possible without parametric assumptions using a nuclear-norm penalized regression. We demonstrate how to implement this method and provide finite-sample bounds on the mean squared error of the resulting estimator for the distribution of network links. Computation takes seconds for samples with hundreds of observations. Easy-to-use code in R and Python can be found at https://github.com/mpleung/ARD.

研究の動機と目的

• 集約的関係データ（ARD）から潜在的ネットワーク構造を回復する非パrametricで頻度主義的手法を開発し、制限的なパラメトリック仮定を避ける。
• ネットワーク分布における有効ランクの低さが、核ノルム正則化を用いることでARDからの正確な回復を可能にすることを示す。
• ネットワークリンク推定量の有限標本における平均二乗誤差バウンドを提供し、誤差が有効ランクと特徴数にどのように依存するかを明示する。
• 経済学および社会科学分野の研究者が使いやすいRおよびPythonコードを通じて、実用的実装を可能にする。
• ARDの適用範囲をベイジアンモデルに限らず、より広範なネットワーク形成プロセスのクラスにまで拡張する。

提案手法

• ARDの応答変数がネットワークリンクと特徴インジケータの線形関数として表現されることに着目し、ARDからのネットワーク回復を高次元線形回帰問題として定式化する。
• 多くの経済的ネットワークが有効ランクが低いことに着目し、推定された隣接行列に核ノルム正則化を適用して低ランク構造を強制する。
• 数百人のエージェントに対して数秒で正則化回帰推定量を効率的に計算するために、加速勾配降下法（JiとYe, 2009）を用いる。
• 有限標本における平均二乗誤差バウンドを導出する際、NegahbanとWainwright（2011）の議論を応用し、誤差が特徴数の増加に伴い減少し、有効ランクの増加に伴い増加することを示す。
• 推定行列の核ノルムに比例するペナルティ項を導入し、特定のパラメトリックモデルを仮定せずに低ランク解を促進する。
• ネットワークサイズと特徴数の変動を想定した3つのネットワークモデル（潜在空間モデル、ランダムドットプロダクトグラフ、スチュアティックブロックモデル）において、手法の有効性を検証する。

実験結果

リサーチクエスチョン

• RQ1 ネットワーク形成の特定のパラメトリックモデルを仮定せずに、ARDからネットワーク構造を回復できるか？
• RQ2 回復されたネットワークリンクの平均二乗誤差は、ARDに使用された特徴数と真のネットワークの有効ランクにどのように依存するか？
• RQ3 核ノルム正則化回帰は、ARDにおけるベイジアン推定の代替として、高速でスケーラブルかつ非パラメトリックな手法として機能できるか？
• RQ4 異なるネットワークモデルや標本サイズにおいて、推定量の有限標本性能はどの程度か？
• RQ5 少数の特徴を用いたARDは、実務的なネットワーク分析において、完全なネットワーク全数調査にどの程度置き換え可能か？

主な発見

• 回復されたネットワークリンクの平均二乗誤差は、真のネットワークの有効ランクをARDに使用された特徴数で割った比に比例する定数倍でバウンドされる。
• $ n = 500 $ の場合、$ K = \text{round}(\sqrt{n}) $ とすると、潜在空間モデルでは平均二乗誤差が約 0.027、ランダムドットプロダクトグラフでは 0.017、スチュアティックブロックモデルでは 0.036 となる。
• 小さなネットワーク（例：$ n = 50 $）に対しても推定誤差が低く抑えられ、ネットワークサイズと特徴数の増加に伴い誤差は減少する。
• 推定量は計算的に効率的であり、数百人のエージェントを対象としたネットワークに対して、加速勾配降下法を用いて数秒で計算可能である。
• 潜在空間モデル、ランダムドットプロダクトグラフ、スチュアティックブロックモデルを含むさまざまなネットワークモデルにおいて、本手法は一貫した性能向上を示し、$ n $ の増加に伴い性能が向上する。
• パラメトリック仮定を必要とせず、正確なネットワーク構造の回復が可能であり、ARD応用におけるベイジアン推定のスケーラブルな代替手段を提供する。