[論文レビュー] Labeled Graph Generative Adversarial Networks

Shuangfei Fan, Bert Huang|arXiv (Cornell University)|Jun 7, 2019

Cell Image Analysis Techniques参考文献 28被引用数 19

ひとこと要約

本稿では、ラベル付きグラフ生成敵対ネットワーク（LGGAN）を提案する。LGGANは、生成器がノードラベルと隣接行列を生成するように訓練され、残差接続を備えたグラフ畳み込みネットワーク（GCN）を用いたディスクラミネーターが、実際のグラフと生成されたグラフを区別する。LGGANは、構造的整合性、さまざまなグラフサイズやドメインへの一般化、多様性において、既存手法を上回り、トレーニングデータの主要な分布的性質を保持する。

ABSTRACT

As a new approach to train generative models, \emph{generative adversarial networks} (GANs) have achieved considerable success in image generation. This framework has also recently been applied to data with graph structures. We propose labeled-graph generative adversarial networks (LGGAN) to train deep generative models for graph-structured data with node labels. We test the approach on various types of graph datasets, such as collections of citation networks and protein graphs. Experiment results show that our model can generate diverse labeled graphs that match the structural characteristics of the training data and outperforms all alternative approaches in quality and generality. To further evaluate the quality of the generated graphs, we use them on a downstream task of graph classification, and the results show that LGGAN can faithfully capture the important aspects of the graph structure.

研究の動機と目的

• ノードラベルと複雑なトポロジーを併せ持つ、現実的でラベル付きグラフ構造データを合成できる深層生成モデルの開発。
• 既存のグラフGANがノードラベルを扱えず、さまざまなグラフタイプやサイズに一般化できないという限界を克服すること。
• 実際の構造を模倣するが、機微な情報を露呈しない合成グラフを生成することで、プライバシー保護型グラフデータ共有を可能にすること。
• 下流のグラフ分類タスクと構造的指標を用いて、生成されたグラフの品質を評価すること。
• 生成されたグラフがトレーニング例の単純なコピーではなく、独創性と現実性のバランスが取れた多様なグラフを生成することを保証すること。

提案手法

• 生成器ネットワークは、潜在ノイズベクトルから完全なラベル付きグラフへマッピングするように学習し、隣接行列とノードラベルを生成する。
• ディスクラミネーターは、残差接続を備えたグラフ畳み込みネットワーク（GCN）を用い、構造に適応した高次元特徴を抽出して、実際のグラフと生成されたグラフを区別する。
• GANフレームワークにより、生成器とディスクラミネーターが敵対的に訓練され、生成器はディスクラミネーターを欺くように改善され、ディスクラミネーターは偽物を検出する能力を向上させる。
• 生成グラフとトレーニングデータ間の多様性を定量的に評価するために、Weisfeiler-Lehmanカーネルに基づく距離指標を採用する。
• グラフ構造とラベル生成がトレーニング中に共同最適化され、ノード属性とトポロジカル構造の整合性が保証される。
• 評価には、内在的指標（MMD、カーネル距離）と、合成データ上の下流のグラフ分類性能の両方が含まれる。

実験結果

リサーチクエスチョン

• RQ1 GANベースのモデルは、現実のグラフデータセットの構造的・分布的性質を保持しつつ、ラベル付きグラフを効果的に生成できるか？
• RQ2 LGGANは、さまざまなグラフタイプやサイズにおいて、従来の手法や深層生成モデルと比較して、構造的整合性と多様性に優れているか？
• RQ3 LGGANは、引用ネットワークやタンパク質相互作用グラフのような、未学習のグラフドメインにも一般化できるか？
• RQ4 ノードラベルの取り扱いが、ラベルを無視するモデルと比較して、生成グラフの現実性と品質を向上させるか？
• RQ5 グラフ分類などの下流タスクにおいて、生成されたグラフがどれほど高い性能を示すか。これは、元のデータ分布が忠実に捉えられているかを示す。

主な発見

• LGGANは、Cora、CiteSeer、PROTEINS、ENZYMESなどの多様なデータセットにおいて、トレーニングデータの構造的特性（次数分布、クラスタリング、コミュニティ構造など）を忠実に再現するラベル付きグラフを生成する。
• Cora-smallおよびCoraデータセットにおいて、LGGANは最大平均差分（MMD）スコアが低く保たれ、大きなグラフにおいてもわずかな増加に抑えられ、優れたスケーラビリティと一貫性を示している。
• LGGANは、MolGAN、DeepGMG、GraphRNN、および従来のモデル（E-R、B-A）を含むすべてのベースラインを上回り、特に大規模かつ多様なグラフタイプにおいて、品質と一般化性能に優れている。
• Weisfeiler-Lehmanカーネル距離による評価により、LGGANは高い多様性を達成している。生成グラフはトレーニンググラフの正確なコピーではなく、あまりに異なっているわけでもないため、独創性と現実性のバランスが取れている。
• 下流のグラフ分類タスクにおいて、LGGANが生成したグラフは競争力のある性能を示しており、モデルが実データの重要な構造的およびラベルベースの特徴を忠実に捉えていることを示している。
• LGGANは、評価されたモデルの中で唯一、引用ネットワークや分子グラフを含む複数のドメインで一貫して優れた性能を発揮しており、広範な適用可能性と特化の低減を示している。