[论文解读] Efficient reconstruction of transmission probabilities in a spreading process from partial observations

Andrey Y. Lokhov, Theodor Misiakiewicz|arXiv (Cornell University)|Sep 23, 2015

Distributed Sensor Networks and Detection Algorithms被引用 6

一句话总结

该论文提出了一种基于动态消息传递（DMP）的算法，可从部分观测数据（如不完整的激活时间或稀疏快照）中高效重构传播过程中的传播概率。通过利用DMP方程近似计算边缘概率，该方法在稀疏网络中实现了快速且鲁棒的推理，优于基于蒙特卡洛采样的昂贵似然最大化方法，尤其在存在隐藏节点或噪声数据的情况下表现更优。

ABSTRACT

An important problem of reconstruction of diffusion network and transmission probabilities from the data has attracted a considerable attention in the past several years. A number of recent papers introduced efficient algorithms for the estimation of spreading parameters, based on the maximization of the likelihood of observed cascades, assuming that the full information for all the nodes in the network is available. In this work, we focus on a more realistic and restricted scenario, in which only a partial information on the cascades is available: either the set of activation times for a limited number of nodes, or the states of nodes for a subset of observation times. To tackle this problem, we first introduce a framework based on the maximization of the likelihood of the incomplete diffusion trace. However, we argue that the computation of this incomplete likelihood is a computationally hard problem, and show that a fast and robust reconstruction of transmission probabilities in sparse networks can be achieved with a new algorithm based on recently introduced dynamic message-passing equations for the spreading processes. The suggested approach can be easily generalized to a large class of discrete and continuous dynamic models, as well as to the cases of dynamically-changing networks and noisy information.

研究动机与目标

• 解决在仅获得部分或不完整级联数据（如有限的激活时间或随时间稀疏的观测）时，学习传播过程中传播概率的挑战。
• 克服在不完整观测下精确似然最大化计算上的不可行性，该方法在大规模或实时应用中计算成本过高。
• 通过利用动态消息传递（DMP）方程进行近似推理，开发一种可扩展且鲁棒的蒙特卡洛似然最大化替代方法。
• 在存在隐藏节点、动态变化的网络或噪声观测等真实场景中实现参数估计，此时完整级联数据不可用。

提出的方法

• 将推理问题表述为最大化不完整扩散轨迹的似然，同时考虑观测到的和隐藏的级联数据。
• 引入两种基线方法：精确边缘化和蒙特卡洛采样，用于不完整似然计算，但两者计算成本均较高。
• 提出一种基于动态消息传递（DMP）方程的新算法，以在具有环但稀疏的网络上高效近似节点激活的边缘概率。
• 利用DMP计算近似似然，无需完整枚举，从而在存在缺失数据时仍能实现快速且可扩展的参数学习。
• 将DMP框架应用于离散时间的易感-感染（SI）模型，并推广至连续时间及其他动态模型。
• 证明即使在底层网络结构未知的情况下，DMP也可用于参数学习，但若无额外约束，可能无法重构出精确的拓扑结构。

实验结果

研究问题

• RQ1 能否从部分观测数据（如有限的激活时间或稀疏快照）中准确重构传播过程中的传播概率？
• RQ2 如何在保持准确性的前提下降低不完整数据下似然最大化方法的计算成本？
• RQ3 动态消息传递（DMP）方程在不完整观测设置下，能在多大程度上为难以计算的似然提供高效且准确的近似？
• RQ4 DMP推理方法能否推广至具有时变网络或噪声观测的动态模型？
• RQ5 为何即使在拥有完整观测数据的情况下，仅使用边缘概率作为输入时，DMP仍无法重构出精确的网络拓扑？

主要发现

• 基于DMP的算法在稀疏网络中实现了高效且鲁棒的传播概率重构，其计算速度显著优于基于蒙特卡洛采样的似然最大化方法。
• 在不完整数据下进行精确似然最大化计算困难，因此在在线或大规模应用中不切实际。
• DMP在具有环但稀疏的网络上可提供渐近精确的边缘概率估计，为近似推理提供了坚实基础。
• 即使在完整观测数据下，DMP算法也无法重构出原始网络的确切拓扑，因为它倾向于生成一个能最好拟合经验边缘概率的稀疏网络。
• 可通过正则化（如ℓ₁）对DMP算法进行增强，以在存在隐藏节点或未知网络结构时改善结构学习效果。
• 拓扑比较显示，尽管DMP重构的网络与原始网络具有相似的直径和平均路径长度，但其低估了加权度和路径数量，表明存在结构偏差。