[论文解读] Using link and content over time for embedding generation in Dynamic Attributed Networks

Ana Paula Appel, Renato L. F. Cunha+2 more|arXiv (Cornell University)|Jul 17, 2018

Complex Network Analysis Techniques参考文献 43被引用 5

一句话总结

本文提出Chimera，一种共享矩阵分解模型，可联合嵌入动态属性网络中的链接、内容和时间动态。通过学习低秩、时序连续的表示，Chimera实现了有效的社区检测和对未来社区结构的准确预测，在arXiv和DBLP等真实数据集上优于基线方法。

ABSTRACT

In this work, we consider the problem of combining link, content and temporal analysis for community detection and prediction in evolving networks. Such temporal and content-rich networks occur in many real-life settings, such as bibliographic networks and question answering forums. Most of the work in the literature (that uses both content and structure) deals with static snapshots of networks, and they do not reflect the dynamic changes occurring over multiple snapshots. Incorporating dynamic changes in the communities into the analysis can also provide useful insights about the changes in the network such as the migration of authors across communities. In this work, we propose Chimera, a shared factorization model that can simultaneously account for graph links, content, and temporal analysis. This approach works by extracting the latent semantic structure of the network in multidimensional form, but in a way that takes into account the temporal continuity of these embeddings. Such an approach simplifies temporal analysis of the underlying network by using the embedding as a surrogate. A consequence of this simplification is that it is also possible to use this temporal sequence of embeddings to predict future communities. We present experimental results illustrating the effectiveness of the approach.

研究动机与目标

• 解决现有方法将网络结构、内容和时间演化视为独立或静态组件所存在的缺陷。
• 开发一种统一框架，联合建模动态网络中的链接、文本内容和时间演化。
• 利用学习到的时间嵌入，实现对未来社区成员身份的准确预测。
• 通过将嵌入作为原始网络快照的替代品，简化时间网络分析。

提出的方法

• Chimera使用共享矩阵分解，在多个时间快照中联合嵌入网络邻接矩阵和节点内容矩阵。
• 通过低秩分解将链接矩阵和内容矩阵分解至共享潜在空间，保持节点表示的时间连续性。
• 模型通过正则化项平衡链接重建、内容重建和时间平滑性，优化联合目标函数。
• 通过惩罚连续时间步长之间节点嵌入的大幅变化，强制实现时间一致性。
• 利用所得的节点嵌入时间序列进行k-means聚类，并预测未来社区成员身份。
• 使用贝叶斯优化调整超参数，以在验证数据上最大化聚类性能。

实验结果

研究问题

• RQ1 统一模型能否有效结合结构链接、文本内容和时间演化，以实现动态网络中的社区检测？
• RQ2 与基线方法相比，学习到的嵌入在预测未来社区成员身份方面表现如何？
• RQ3 在嵌入中强制实施时间平滑性是否能提升社区检测在时间上的稳定性和准确性？
• RQ4 与静态或仅结构的模型相比，引入内容和时间动态在多大程度上提升了社区检测性能？

主要发现

• 使用2015年和2016年的预测结果，Chimera在2017年预测社区成员身份时，Jaccard指数达到0.0765，纯度达到0.4981，表现出强大的预测能力。
• 该模型在社区检测中优于基线方法，最佳结果在使用10个潜在维度及特定正则化参数时取得。
• 算法运行时间与网络规模呈二次方增长，与O(n²kT)复杂度一致，通过将性能数据拟合至二阶多项式得到验证。
• 通过将预测嵌入加入时间序列，该方法支持迭代预测，在引入噪声的情况下仍能保持性能。
• 共享分解的使用使得链接、内容和时间信号能够无缝整合到单一、可解释的潜在表示中。