[论文解读] TG-GAN: Deep Generative Models for Continuously-time Temporal Graph Generation.

Liming Zhang, Liang Zhao+2 more|arXiv (Cornell University)|May 17, 2020

Data Visualization and Analytics参考文献 20被引用 3

一句话总结

TG-GAN 是一种用于连续时间动态图生成的新型生成对抗网络，通过截断时间随机游走建模和专用循环架构结合特殊激活函数，实现时间有效性约束。在合成数据集和真实世界动态图数据集上，该方法在效率和效果方面均优于现有方法。

ABSTRACT

The recent deep generative models for static graphs that are now being actively developed have achieved significant success in areas such as molecule design. However, many real-world problems involve temporal graphs whose topology and attribute values evolve dynamically over time, including important applications such as protein folding, human mobility networks, and social network growth. As yet, deep generative models for temporal graphs are not yet well understood and existing techniques for static graphs are not adequate for temporal graphs since they cannot 1) encode and decode continuously-varying graph topology chronologically, 2) enforce validity via temporal constraints, or 3) ensure efficiency for information-lossless temporal resolution. To address these challenges, we propose a new model, called ``Temporal Graph Generative Adversarial Network'' (TG-GAN) for continuous-time temporal graph generation, by modeling the deep generative process for truncated temporal random walks and their compositions. Specifically, we first propose a novel temporal graph generator that jointly model truncated edge sequences, time budgets, and node attributes, with novel activation functions that enforce temporal validity constraints under recurrent architecture. In addition, a new temporal graph discriminator is proposed, which combines time and node encoding operations over a recurrent architecture to distinguish the generated sequences from the real ones sampled by a newly-developed truncated temporal random walk sampler. Extensive experiments on both synthetic and real-world datasets demonstrate TG-GAN significantly outperforms the comparison methods in efficiency and effectiveness.

研究动机与目标

• 解决缺乏能够建模动态拓扑与属性持续演化的连续时间动态图的深度生成模型的问题。
• 克服静态图生成模型在处理时间顺序边序列、时间预算和时间约束方面的局限性。
• 开发一种高效且无信息损失的框架，实现在高时间分辨率下的动态图生成。
• 通过在循环架构中学习时间约束，确保生成序列的有效性。

提出的方法

• 提出一种时间图生成器，利用具有新型时间有效性强制激活函数的循环架构，联合建模截断边序列、时间预算和节点属性。
• 引入截断时间随机游走采样器，为判别器生成逼真的现实世界训练序列。
• 设计一种时间图判别器，将时间编码与节点编码结合在循环架构中，以区分真实与生成的序列。
• 采用 GAN 框架，使生成器学习生成可欺骗判别器的序列，从而提升时间真实感。
• 使用联合优化目标端到端训练生成器与判别器，保持时间一致性和结构保真度。
• 应用截断随机游走采样真实的时间图序列，实现在大规模动态图上的可扩展且高效的训练。

实验结果

研究问题

• RQ1 深度生成模型能否有效捕捉并生成具有动态拓扑与属性的持续演化时间图？
• RQ2 在生成过程中如何强制实施时间有效性约束，以确保真实的时间演化？
• RQ3 基于 GAN 的框架在不损失信息的前提下，能在多大程度上实现高分辨率时间生成？
• RQ4 与现有静态和时间图生成方法相比，所提出模型在效率和有效性方面表现如何？

主要发现

• TG-GAN 在合成数据集和真实世界时间图数据集上，无论在生成质量还是训练效率方面，均显著优于现有方法。
• 该模型在长时间演化图序列中表现出色，有效保持了时间一致性和结构保真度。
• 在循环生成器中使用自定义激活函数可确保时间有效性，减少无效或不合理的图状态转换。
• 截断时间随机游走采样器实现了高效且逼真的数据收集，提升了判别器训练的稳定性。
• 所提出的 GAN 框架在多种时间图类型上展现出强大的泛化能力，包括蛋白质折叠和社交网络动态。
• TG-GAN 在无信息损失的前提下保持了高时间分辨率，实现了对动态图演化过程的细粒度建模。