[论文解读] Autoregressive Networks

Binyan Jiang, Jialiang Li+1 more|arXiv (Cornell University)|Oct 9, 2020

Complex Network Analysis Techniques参考文献 22被引用 13

一句话总结

本文提出了一种一阶自回归（AR(1)）模型用于动态网络，其中边随离散时间演变而节点保持固定，从而实现对时序依赖关系的显式建模。该方法支持高效的最大似然估计、基于置换的诊断检验，以及一种新颖的谱聚类算法，在有限样本条件下可实现完美的社区恢复，且在真实网络的变点检测中具有应用价值。

ABSTRACT

We propose a first-order autoregressive (i.e. AR(1)) model for dynamic network processes in which edges change over time while nodes remain unchanged. The model depicts the dynamic changes explicitly. It also facilitates simple and efficient statistical inference methods including a permutation test for diagnostic checking for the fitted network models. The proposed model can be applied to the network processes with various underlying structures but with independent edges. As an illustration, an AR(1) stochastic block model has been investigated in depth, which characterizes the latent communities by the transition probabilities over time. This leads to a new and more effective spectral clustering algorithm for identifying the latent communities. We have derived a finite sample condition under which the perfect recovery of the community structure can be achieved by the newly defined spectral clustering algorithm. Furthermore the inference for a change point is incorporated into the AR(1) stochastic block model to cater for possible structure changes. We have derived the explicit error rates for the maximum likelihood estimator of the change-point. Application with three real data sets illustrates both relevance and usefulness of the proposed AR(1) models and the associate inference methods.

研究动机与目标

• 开发一种统计上可处理的一阶自回归模型，用于动态网络，其边随时间变化而节点保持固定。
• 实现高效且一致的统计推断，包括最大似然估计和基于置换检验的诊断检查。
• 提出一种新型谱聚类算法，利用随时间演变的转移概率以改进潜在社区检测。
• 将变点检测整合到AR(1)随机块模型中，以识别网络动态中的结构转变。
• 建立有限样本条件下完美社区恢复的条件，并推导变点估计的显式误差率。

提出的方法

• 为动态网络构建AR(1)模型，其中时间 $ t $ 的边概率线性依赖于时间 $ t-1 $ 的边状态，且假设创新项相互独立。
• 应用Yule-Walker方程，在AR(1)结构下估计自相关系数和模型参数。
• 开发一种新型谱聚类算法，利用转移概率（而非静态连接概率）来识别潜在社区。
• 采用截断技术处理变点搜索过程中社区估计的不一致性，从而实现有界误差率。
• 使用最大似然估计（MLE）进行变点检测，并理论推导显式误差率。
• 引入置换检验用于拟合模型的诊断检查，利用AR(1)结构的显式动态特性。

实验结果

研究问题

• RQ1 简单的AR(1)模型能否捕捉网络中边演化的时序动态，同时支持高效的统计推断？
• RQ2 AR(1)结构能否支持一种新型谱聚类算法，使其在社区检测方面优于静态模型？
• RQ3 在何种有限样本条件下，所提出的谱聚类算法可实现真实社区结构的完美恢复？
• RQ4 如何有效将变点检测整合到AR(1)随机块模型中？MLE估计器的误差率如何？
• RQ5 所提出的方法能否检测到现实世界动态网络中的有意义结构转变，例如社交或通信网络中的结构变化？

主要发现

• 所提出的谱聚类算法在本文推导的有限样本条件下可实现潜在社区结构的完美恢复。
• AR(1)模型可对最大似然估计实现直接且统一的误差率估计，优于更复杂的MCMC方法。
• 由于AR(1)模型具有显式动态结构，因此可行且有效的模型诊断检查置换检验成为可能。
• 在法国高中数据集中，所提方法在0.36秒内完成社区检测，显著快于dynsbm（252.39秒），且准确率更高。
• 在Enron电子邮件数据集中，该方法检测到2001年10月存在一个变点——与破产披露时间一致，证实了其经验相关性。
• 基于MLE的变点估计器实现了显式的、非渐近的误差率，为检测精度提供了理论保障。