[論文レビュー] Learning Graph Topological Features via GAN

Weiyi Liu, Hal Cooper+5 more|arXiv (Cornell University)|Sep 11, 2017

Topological and Geometric Data Analysis参考文献 13被引用数 4

ひとこと要約

本稿では、コミュニティ検出とMETIS分割を用いて1つの入力グラフを段階に分け、それぞれの段階で別々のGANを訓練することで、局所的およびグローバルなトポロジカル特徴を学習する階層的GANフレームワークであるGraph Topology Interpolater (GTI)を提案する。GTIは段階的にグラフを再構築し、ハブや三角形といった重要な構造を保持する。BAおよびWSネットワークにおいて、ベースモデルに比べて最終から2番目の段階でFノルム距離が10–15%低くなるなど、標準的なGANやサンプリング手法よりもトポロジカル忠実度を優れて保持する。

ABSTRACT

Inspired by the generation power of generative adversarial networks (GANs) in image domains, we introduce a novel hierarchical architecture for learning characteristic topological features from a single arbitrary input graph via GANs. The hierarchical architecture consisting of multiple GANs preserves both local and global topological features and automatically partitions the input graph into representative stages for feature learning. The stages facilitate reconstruction and can be used as indicators of the importance of the associated topological structures. Experiments show that our method produces subgraphs retaining a wide range of topological features, even in early reconstruction stages (unlike a single GAN, which cannot easily identify such features, let alone reconstruct the original graph). This paper is firstline research on combining the use of GANs and graph topological analysis.

研究の動機と目的

• 構造に関する事前知識のない、任意の1つのグラフからトポロジカル特徴を教師なしで学ぶ手法を開発すること。
• 局所的最適解や特徴の希釈のため、標準的なGANが複雑なグラフを再構築する際に抱える限界を克服すること。
• 自動的にグラフトポロジを階層的段階に特定し、それぞれが異なるトポロジカル特徴を捉えるように再構築すること。
• 初期の再構築段階が、スーパーアクセスや三角形といった重要な構造的モチーフをどのように保持するかを示すこと。
• トポロジカル性質の保持において、確立されたグラフサンプリング手法と比較してGTIの性能を示すこと。

提案手法

• 階層的同定モジュールは、Louvainアルゴリズムを用いて複数レベルにわたりコミュニティ構造を検出することで、階層的レイヤー数$L$を定義する。
• レイヤー分割モジュールは、METISを適用して各レイヤーを$M$個の重複のない固定サイズの部分グラフに分割し、GANのトレーニングをバランスよく保証する。
• 各レイヤーごとに別個のGANを訓練することで、部分グラフのトポロジカル特徴を学習し、特徴の希釈を避ける局所的特徴抽出を可能にする。
• レイヤー再構築モジュールは、各GANの生成器を用いて$k$ノードの部分グラフを再構築し、部分内エッジは保持するが、部分間接続は保持しない。
• 再構築は段階ごとに実行され、トポロジカル重要度に基づいて段階を順序付け、段階的なグラフ回復を可能にする。
• 段階数はトレーニング中に非パrametricに学習され、グラフの複雑さに応じて適応的深度を提供する。

実験結果

リサーチクエスチョン

• RQ1 階層的GANアーキテクチャは、1つの入力グラフから局所的およびグローバルなトポロジカル特徴を効果的に学習・再構築できるか？
• RQ2 GTIの段階的再構築プロセスは、標準的なGANやサンプリング手法よりも、三角形やスーパーアクセスといった重要な構造的モチーフをよりよく保持するか？
• RQ3 ベースラインモデルと比較して、GTIの初期再構築段階が元のグラフとのトポロジカル類似度をどの程度維持するか？
• RQ4 GTIは、グラフ構造に関する事前の仮定なしに、再構築段階数を自動的に特定できるか？
• RQ5 ノードレベルおよびグローバルなトポロジカル類似度の維持において、GTIの性能はランダムグラフモデルや標準的なサンプリングアルゴリズムと比較してどうか？

主な発見

• BAネットワークにおいて、最終から2番目の再構築段階と元のグラフとの間のFノルム距離は53.0283にまで低下し、ベースモデルの平均値62.9031よりも顕著に低い。これは、トポロジカル忠実度の優れた保持を示している。
• BAネットワークでは、最終から2番目の段階が元のグラフと平均99.9707%のノード同士の類似度を達成し、ベースモデルの平均値99.9640%を上回っている。
• KroneckerおよびWSネットワークにおいても、最終から2番目の段階はFノルムおよびノード類似度の両面でベースモデルと同等またはわずかに上回り、ネットワークタイプにわたる頑健性を確認している。
• ランダムなERネットワークでは、ベースモデルよりわずかに性能が劣る（Fノルム：285.8566 vs. 282.9252）ことが確認され、GTIが構造的モチーフの欠片のないグラフでは困難を抱えることが示された。
• 可視化比較では、50ノードのBA部分グラフにおいて、GTIの最初の段階が2つのスーパーアクセスを保持している一方、Random WalkおよびRandom Jumpはハブを保持できず、Forest Fireは部分的にしか保持していない。
• 密なクラスタを有するFacebookデータセットにおいて、GTIはすべてのサンプリング手法を著しく上回り、クラスタ構造とクラスタ間スパarsityの両方を維持している。