[论文解读] Recovering Network Structure from Aggregated Relational Data using Penalized Regression

Hossein Alidaee, Eric Auerbach+1 more|arXiv (Cornell University)|Jan 16, 2020

Complex Network Analysis Techniques参考文献 14被引用 14

一句话总结

本文提出了一种非参数、频率学派的方法，通过核范数惩罚回归从聚合关系数据（ARD）中恢复潜在的社会网络结构。通过利用许多经济网络的低有效秩特性，该方法在有限样本下实现了误差界控制，能够在秒级时间内完成对数百名个体的快速计算，相关R和Python代码已开源发布于GitHub。

ABSTRACT

Social network data can be expensive to collect. Breza et al. (2017) propose aggregated relational data (ARD) as a low-cost substitute that can be used to recover the structure of a latent social network when it is generated by a specific parametric random effects model. Our main observation is that many economic network formation models produce networks that are effectively low-rank. As a consequence, network recovery from ARD is generally possible without parametric assumptions using a nuclear-norm penalized regression. We demonstrate how to implement this method and provide finite-sample bounds on the mean squared error of the resulting estimator for the distribution of network links. Computation takes seconds for samples with hundreds of observations. Easy-to-use code in R and Python can be found at https://github.com/mpleung/ARD.

研究动机与目标

• 开发一种非参数、频率学派的方法，用于从聚合关系数据（ARD）中恢复潜在网络结构，避免对网络形成过程施加严格的参数假设。
• 证明网络分布的低有效秩特性可使通过核范数惩罚实现从ARD中准确恢复网络结构成为可能。
• 为网络链接估计量提供有限样本均方误差界，揭示误差与有效秩及特征数量之间的关系。
• 通过面向经济学与社会科学领域研究人员的易用R和Python代码，实现方法的实际应用。
• 将ARD的应用范围从贝叶斯模型扩展至更广泛的网络形成过程类别。

提出的方法

• 将从ARD中恢复网络结构建模为高维线性回归问题，其中ARD响应变量是网络链接与特征指标的线性函数。
• 对估计的邻接矩阵施加核范数惩罚，以强制实现低秩结构，利用了经济网络普遍具有低有效秩的特性。
• 采用加速梯度下降法（Ji和Ye，2009）在秒级时间内高效计算惩罚回归估计量，适用于数百名个体的网络。
• 通过借鉴Negahban和Wainwright（2011）的论证方法，推导出有限样本均方误差界，表明误差随特征数量增加而减小，随有效秩增加而增大。
• 采用与估计矩阵的核范数成比例的惩罚项，促进低秩解，且无需假设特定参数模型。
• 在三种网络模型——潜在空间模型、随机点积图模型和随机块模型——下验证了方法的有效性，涵盖不同网络规模与特征数量。

实验结果

研究问题

• RQ1 在不假设特定网络形成参数模型的前提下，能否从ARD中恢复网络结构？
• RQ2 恢复的网络链接的均方误差如何依赖于ARD中使用的特征数量及真实网络的有效秩？
• RQ3 核范数惩罚回归能否为ARD提供一种快速、可扩展且非参数的替代贝叶斯估计的方法？
• RQ4 该估计量在不同网络模型与样本规模下的有限样本表现如何？
• RQ5 在经验网络分析中，使用少量特征的ARD在多大程度上可替代完整的网络普查？

主要发现

• 恢复的网络链接的均方误差被一个常数乘以真实网络有效秩与ARD中使用特征数之比的表达式所界定。
• 当 $ n = 500 $ 时，潜在空间模型的均方误差约为0.027，随机点积图模型为0.017，随机块模型为0.036，且 $ K = \text{round}(\sqrt{n}) $。
• 即使在小规模网络（如 $ n = 50 $）中，该方法也能实现较低的估计误差，且随着网络规模和特征数量的增加，误差持续下降。
• 估计量计算高效，使用加速梯度下降法，对数百名个体的网络可在数秒内完成计算。
• 该方法在不同网络模型中均表现稳健，包括潜在空间模型、随机点积图模型和随机块模型，且随着 $ n $ 增大，性能提升稳定。
• 该方法无需参数假设即可实现网络结构的准确恢复，为ARD应用提供了一种可扩展的贝叶斯估计替代方案。