[论文解读] Linear regression and its inference on noisy network-linked data

Can M. Le, Tianxi Li|arXiv (Cornell University)|Jul 1, 2020

Complex Network Analysis Techniques参考文献 85被引用 5

一句话总结

本文提出了一种针对网络关联数据的稳健线性回归模型，通过非参数网络效应来处理网络结构中的噪声或扰动。该方法在一般网络观测误差模型下建立了有效的渐近推断框架，并揭示了基于网络密度的推断有效性相变行为，模拟和真实学校冲突数据的分析结果表明，该方法在准确性和效率方面显著优于现有方法。

ABSTRACT

Linear regression on network-linked observations has been an essential tool in modeling the relationship between response and covariates with additional network structures. Previous methods either lack inference tools or rely on restrictive assumptions on social effects and usually assume that networks are observed without errors. This paper proposes a regression model with nonparametric network effects. The model does not assume that the relational data or network structure is exactly observed and can be provably robust to network perturbations. Asymptotic inference framework is established under a general requirement of the network observational errors, and the robustness of this method is studied in the specific setting when the errors come from random network models. We discover a phase-transition phenomenon of the inference validity concerning the network density when no prior knowledge of the network model is available while also showing a significant improvement achieved by knowing the network model. Simulation studies are conducted to verify these theoretical results and demonstrate the advantage of the proposed method over existing work in terms of accuracy and computational efficiency under different data-generating models. The method is then applied to middle school students' network data to study the effectiveness of educational workshops in reducing school conflicts.

研究动机与目标

• 开发一种将网络效应纳入考虑的线性回归模型，同时处理网络观测误差。
• 在一般网络误差模型下，为回归系数建立严格的渐近推断框架。
• 研究当网络结构被扰动时（尤其在缺乏已知网络模型的情况下）推断的稳健性。
• 在存在噪声或不完整网络数据的场景下，提升预测准确性和计算效率，超越现有方法。
• 将该方法应用于真实教育数据，评估工作坊对减少学校冲突的影响。

提出的方法

• 提出一种非参数网络效应模型，不假设社会影响的参数形式，从而灵活建模网络凝聚力。
• 引入一种回归框架，其中响应变量依赖于协变量和网络平均效应，误差项被建模为邻接矩阵中的扰动。
• 推导在一般网络误差模型下回归系数的渐近分布理论，包括随机图模型（如Erdős–Rényi和DCBM）。
• 利用邻接矩阵的特征分解来估计网络效应，并构建用于回归参数推断的检验统计量。
• 采用两步估计程序：首先通过谱方法估计网络效应，然后进行校正标准误的回归。
• 采用相变分析，刻画在未知先验网络模型时，推断有效性随网络密度的变化特征。

实验结果

研究问题

• RQ1 网络扰动如何影响在线性回归中网络关联数据的统计推断有效性？
• RQ2 当底层网络模型未知时，网络密度对推断准确性有何影响？
• RQ3 在噪声网络下，非参数网络效应模型是否在预测和推断方面优于参数化的自回归模型？
• RQ4 与现有基准方法（如OLS、SIM和RNC）相比，所提出方法在准确性和计算效率方面表现如何？
• RQ5 在存在网络噪声的情况下，若已知真实网络模型，其对推断性能的提升程度如何？

主要发现

• 所提方法在一般网络观测误差模型下实现了有效的渐近推断，包括Erdős–Rényi和DCBM等随机网络模型。
• 观察到相变现象：当未知网络模型时，网络密度低于临界值时推断有效性急剧下降；而当已知真实模型时，推断性能显著提升。
• 在模拟实验中，SP和SP-DCBM方法在估计响应变量条件期望时，均方误差（MSE）显著低于其他方法，尤其在高网络噪声或稀疏网络条件下。
• 在真实学校冲突数据中，该方法在不同网络构建方式下均表现出稳定的处理效应估计，残差QQ图显示尽管响应数据为离散型，仍具有良好正态近似性。
• 在预测准确性和计算效率方面，该方法显著优于OLS、SIM和RNC，尤其在高噪声或低密度网络场景下表现更优。
• 引入非参数网络效应可获得更优的模型拟合效果和更可靠的推断结果，相较于线性均值框架等限制性参数模型更具优势。