[論文レビュー] TG-GAN: Deep Generative Models for Continuously-time Temporal Graph Generation.

Liming Zhang, Liang Zhao+2 more|arXiv (Cornell University)|May 17, 2020

Data Visualization and Analytics参考文献 20被引用数 3

ひとこと要約

TG-GAN は、切り捨てられた時系列ランダムウォークをモデル化し、特別な活性化関数を備えたカスタム再帰的アーキテクチャを用いて時系列の妥当性を強制することで、連続的時間における時系列グラフ生成を実現する新しい生成的対抗ネットワークである。合成および実世界の時系列グラフデータセットにおいて、既存手法と比較して効率性と有効性の両面で優れている。

ABSTRACT

The recent deep generative models for static graphs that are now being actively developed have achieved significant success in areas such as molecule design. However, many real-world problems involve temporal graphs whose topology and attribute values evolve dynamically over time, including important applications such as protein folding, human mobility networks, and social network growth. As yet, deep generative models for temporal graphs are not yet well understood and existing techniques for static graphs are not adequate for temporal graphs since they cannot 1) encode and decode continuously-varying graph topology chronologically, 2) enforce validity via temporal constraints, or 3) ensure efficiency for information-lossless temporal resolution. To address these challenges, we propose a new model, called ``Temporal Graph Generative Adversarial Network'' (TG-GAN) for continuous-time temporal graph generation, by modeling the deep generative process for truncated temporal random walks and their compositions. Specifically, we first propose a novel temporal graph generator that jointly model truncated edge sequences, time budgets, and node attributes, with novel activation functions that enforce temporal validity constraints under recurrent architecture. In addition, a new temporal graph discriminator is proposed, which combines time and node encoding operations over a recurrent architecture to distinguish the generated sequences from the real ones sampled by a newly-developed truncated temporal random walk sampler. Extensive experiments on both synthetic and real-world datasets demonstrate TG-GAN significantly outperforms the comparison methods in efficiency and effectiveness.

研究の動機と目的

• 動的トポロジーと属性を有する連続的に変化する時系列グラフをモデル化できる深層生成モデルの不足に対処すること。
• 静的グラフ生成モデルが時間的順序付けられたエッジ列、時間予算、時系列制約を処理する際の限界を克服すること。
• 高時間分解能での時系列グラフ生成に向け、情報損失のない効率的なフレームワークを開発すること。
• 再帰的アーキテクチャ内での学習された時系列制約を通じて、生成された系列の妥当性を保証すること。

提案手法

• 新規の時系列妥当性を保証する活性化関数を備えた再帰的アーキテクチャを用いて、切り捨てられたエッジ列、時間予算、ノード属性を統合的にモデル化する時系列グラフ生成器を提案する。
• 識別器のための現実的で実世界的なトレーニング系列を生成するため、切り捨てられた時系列ランダムウォークサンプラーを導入する。
• 時間とノード符号化を再帰的アーキテクチャに統合した時系列グラフ識別器を設計し、実際の系列と生成された系列を区別する。
• 生成器が識別器をだませるよう学習する GAN フレームワークを採用することで、時系列的リアリズムを向上させる。
• 生成器と識別器を一括最適化することで、時系列の一貫性と構造的忠実性を保持するエンドツーエンドの学習を実現する。
• 切り捨てられたランダムウォークを用いて、大規模な動的グラフにおけるスケーラブルで効率的なトレーニングを可能にする、現実的な時系列グラフ系列のサンプリングを実施する。

実験結果

リサーチクエスチョン

• RQ1 深層生成モデルは、動的トポロジーと属性を有する連続的に変化する時系列グラフを効果的に捉え、生成できるか？
• RQ2 生成プロセス中に時系列妥当性制約をどのように強制することで、現実的な時系列的進化を保証できるか？
• RQ3 GANベースのフレームワークは、情報損失なしにどの程度高分解能の時系列生成を達成できるか？
• RQ4 提案手法は、既存の静的および時系列グラフ生成手法と比較して、効率性と有効性の両面で優れているか？

主な発見

• TG-GAN は、合成および実世界の時系列グラフデータセットにおいて、生成品質とトレーニング効率の両面で既存手法を顕著に上回っている。
• モデルは、進化するグラフの長時間にわたる系列において、時系列的一致性と構造的忠実性を優れた性能で維持している。
• 再帰的生成器に組み込まれたカスタム活性化関数のおかげで、時系列の妥当性が保証され、不適切または現実的でないグラフ遷移が削減された。
• 切り捨てられた時系列ランダムウォークサンプラーのおかげで、効率的かつ現実的なデータ収集が可能になり、識別器のトレーニング安定性が向上した。
• 提案された GAN フレームワークは、タンパク質折りたたみやソーシャルネットワークダイナミクスを含む多様な時系列グラフタイプに強く一般化している。
• TG-GAN は情報損失なしに高時間分解能を維持しており、動的グラフ進化の細粒度モデリングを可能にしている。