[論文レビュー] Linear regression and its inference on noisy network-linked data

Can M. Le, Tianxi Li|arXiv (Cornell University)|Jul 1, 2020

Complex Network Analysis Techniques参考文献 85被引用数 5

ひとこと要約

本稿では、ノイズ混じりまたは摂動を受けるネットワーク構造を考慮した非パラメトリックなネットワーク効果を用いて、ネットワークに接続されたデータに対するロバストな線形回帰モデルを提案する。一般のネットワーク観測誤差モデルの下で有効な漸近的推論フレームワークを確立し、ネットワーク密度に応じた推論有効性のフェーズ遷移行動を示し、シミュレーションおよび実世界の学校いじめデータ解析において、既存の手法よりも顕著に精度と効率性を向上させる。

ABSTRACT

Linear regression on network-linked observations has been an essential tool in modeling the relationship between response and covariates with additional network structures. Previous methods either lack inference tools or rely on restrictive assumptions on social effects and usually assume that networks are observed without errors. This paper proposes a regression model with nonparametric network effects. The model does not assume that the relational data or network structure is exactly observed and can be provably robust to network perturbations. Asymptotic inference framework is established under a general requirement of the network observational errors, and the robustness of this method is studied in the specific setting when the errors come from random network models. We discover a phase-transition phenomenon of the inference validity concerning the network density when no prior knowledge of the network model is available while also showing a significant improvement achieved by knowing the network model. Simulation studies are conducted to verify these theoretical results and demonstrate the advantage of the proposed method over existing work in terms of accuracy and computational efficiency under different data-generating models. The method is then applied to middle school students' network data to study the effectiveness of educational workshops in reducing school conflicts.

研究の動機と目的

• ネットワーク観測誤差を考慮しつつネットワーク効果を組み込んだ線形回帰モデルの開発。
• 一般のネットワーク誤差モデルの下で回帰係数に対する厳密な漸近的推論フレームワークの確立。
• 特に既知のネットワークモデルがない状況下で、ネットワーク構造の摂動に対する推論のロバスト性の調査。
• ノイズ混じりまたは不完全なネットワークデータを含む状況で、既存の手法よりも予測精度と計算効率を向上。
• 実世界の教育データに本手法を適用し、ワークショップの実施が学校いじめを減少させる影響を評価。

提案手法

• 社会的影響のパラメトリックな形を仮定しない非パラメトリックなネットワーク効果モデルを提案し、ネットワークの結束を柔軟にモデル化可能にする。
• 応答変数が共変量とネットワーク平均効果に依存する回帰フレームワークを導入し、誤差は隣接行列の摂動としてモデル化する。
• 一般のネットワーク誤差モデル、特に Erdős–Rényi や DCBM のようなランダムグラフモデルの下で回帰係数の漸近的分布理論を導出する。
• 隣接行列の固有値分解を用いてネットワーク効果を推定し、回帰パrameterの推論のための検定統計量を構築する。
• 2段階推定手順を採用：まずスペクトル法でネットワーク効果を推定し、次に補正済み標準誤差を用いて回帰を実行する。
• ネットワーク密度に応じた推論有効性の特徴づけを目的としたフェーズ遷移分析を実施する。

実験結果

リサーチクエスチョン

• RQ1 ネットワークの摂動は、ネットワークに接続されたデータにおける線形回帰の統計的推論の有効性にどのように影響するか？
• RQ2 真のネットワークモデルが不明な状況で、ネットワーク密度が推論精度に与える影響は何か？
• RQ3 ノイズ混じりのネットワーク下で、非パラメトリックなネットワーク効果モデルは、パラメトリックな自己回帰モデルを上回る予測精度と推論性能を達成できるか？
• RQ4 OLS、SIM、RNC といった既存のベンチマークと比較して、本手法の精度と計算効率はどの程度優れているか？
• RQ5 ネットワークノイズが存在する状況で、真のネットワークモデルを知っていると推論性能がどの程度向上するか？

主な発見

• 提案手法は、Erdős–Rényi や DCBM などのランダムネットワークモデルを含む、一般のネットワーク観測誤差モデルの下で有効な漸近的推論を達成する。
• フェーズ遷移現象が観察された：真のネットワークモデルが不明な場合、臨界的なネットワーク密度未満では推論有効性が急激に低下するが、真のモデルが利用可能になると著しく向上する。
• シミュレーションでは、SP および SP-DCBM 手法が、特に高ノイズまたはスパースなネットワーク下で、応答変数の条件付き期待値推定における平均二乗誤差（MSE）を顕著に低減する。
• 学校いじめデータの解析では、異なるネットワーク構築法に対しても安定した処置効果推定値が得られ、残差QQプロットから離散的応答データ下でも良好な正規近似が得られていることが示された。
• 特に高ノイズまたは低密度ネットワーク設定下では、OLS、SIM、RNC と比較して、予測精度と計算効率の両面で本手法が優れている。
• 非パラメトリックなネットワーク効果の導入により、線形平均フレームワークのような制限的なパラメトリックモデルと比較して、より良いモデル適合と信頼性の高い推論が達成された。