[论文解读] Estimating Diffusion Network Structures: Recovery Conditions, Sample Complexity & Soft-thresholding Algorithm

Hadi Daneshmand, Manuel Gomez-Rodriguez+2 more|arXiv (Cornell University)|May 12, 2014

Complex Network Analysis Techniques参考文献 14被引用 61

一句话总结

本文提出了一种ℓ1-正则化最大似然框架，用于从连续时间扩散过程中的观测级联中推断隐藏的扩散网络结构。在自然的不一致性条件下，证明了O(d³ log N)个级联足以以高概率恢复真实网络结构，并提出了一种基于软阈值化的邻近梯度算法，实现了最先进的性能，且具有可证明的保证。

ABSTRACT

Information spreads across social and technological networks, but often the network structures are hidden from us and we only observe the traces left by the diffusion processes, called cascades. Can we recover the hidden network structures from these observed cascades? What kind of cascades and how many cascades do we need? Are there some network structures which are more difficult than others to recover? Can we design efficient inference algorithms with provable guarantees? Despite the increasing availability of cascade data and methods for inferring networks from these data, a thorough theoretical understanding of the above questions remains largely unexplored in the literature. In this paper, we investigate the network structure inference problem for a general family of continuous-time diffusion models using an $l_1$-regularized likelihood maximization framework. We show that, as long as the cascade sampling process satisfies a natural incoherence condition, our framework can recover the correct network structure with high probability if we observe $O(d^3 \log N)$ cascades, where $d$ is the maximum number of parents of a node and $N$ is the total number of nodes. Moreover, we develop a simple and efficient soft-thresholding inference algorithm, which we use to illustrate the consequences of our theoretical results, and show that our framework outperforms other alternatives in practice.

研究动机与目标

• 建立在何种理论条件下，可以从观测到的扩散级联中恢复隐藏的网络结构。
• 确定实现高概率网络恢复所需的最少级联数量。
• 开发一种具有可证明收敛性和稀疏性保证的高效推断算法。
• 弥合经验性网络推断方法与严格理论分析之间的差距。

提出的方法

• 将网络推断问题建模为连续时间扩散模型中的ℓ1-正则化最大似然估计。
• 提出了一种类不一致性条件，将级联采样、网络结构与扩散参数联系起来。
• 开发了一种使用软阈值化的邻近梯度算法，以高效求解优化问题。
• 根据理论分析，采用与√(log p / n)成比例的正则化参数λn。
• 使用指数分布、幂律分布或瑞利分布的成对传播模型，以模拟现实的扩散动态。
• 采用F1分数和边恢复的成功概率，评估在合成网络和真实网络模型上的性能。

实验结果

研究问题

• RQ1 在何种条件下，可以以高概率从观测级联中恢复真实网络结构？
• RQ2 需要多少个级联才能实现高概率恢复，且其随网络规模和节点入度的增加如何变化？
• RQ3 能否设计一种具有可证明效率的算法，自然促进稀疏性并可扩展至大规模网络？
• RQ4 级联采样与网络结构之间的相互作用如何影响恢复性能？

主要发现

• 在自然的不一致性条件下，当观测到O(d³ log N)个级联时，所提框架能够以高概率恢复真实网络结构。
• 对于满足不一致性条件的有限样本情形，所需级联数量减少至O(d² log N)。
• 软阈值化邻近梯度算法在多个网络模型中，F1分数优于最先进的方法如NETRATE和First-Edge。
• 实证结果证实，成功概率与理论预测一致，尤其是在λn按√(log p / n)缩放时。
• 当超邻域大小p变化时，该算法仍保持高性能，验证了理论中对p的缩放关系。
• 在真实网络模型（如Kronecker网络和Forest Fire网络）中，不一致性条件在经验上成立，支持了理论的实际相关性。