[論文レビュー] Deep Graph Translation

Xiaojie Guo, Lingfei Wu+1 more|arXiv (Cornell University)|May 25, 2018

Advanced Graph Neural Networks被引用数 15

ひとこと要約

本稿では、入力グラフを出力グラフに翻訳する際に、グローバルおよびローカルな構造的マッピングをモデル化することで、入力グラフからターゲットグラフに翻訳する条件付き生成モデルであるグラフ翻訳生成対抗ネットワーク（GT-GAN）を提案する。GT-GANは、エンコーダ・デコーダ学習のための新規なグラフ畳み込みおよびデコンボリューション層と、条件付きグラフ識別器を用い、特に低データ量または異常予測のシナリオにおいて、最先端の性能を達成する。

ABSTRACT

Inspired by the tremendous success of deep generative models on generating continuous data like image and audio, in the most recent year, few deep graph generative models have been proposed to generate discrete data such as graphs. They are typically unconditioned generative models which has no control on modes of the graphs being generated. Differently, in this paper, we are interested in a new problem named \emph{Deep Graph Translation}: given an input graph, we want to infer a target graph based on their underlying (both global and local) translation mapping. Graph translation could be highly desirable in many applications such as disaster management and rare event forecasting, where the rare and abnormal graph patterns (e.g., traffic congestions and terrorism events) will be inferred prior to their occurrence even without historical data on the abnormal patterns for this graph (e.g., a road network or human contact network). To achieve this, we propose a novel Graph-Translation-Generative Adversarial Networks (GT-GAN) which will generate a graph translator from input to target graphs. GT-GAN consists of a graph translator where we propose new graph convolution and deconvolution layers to learn the global and local translation mapping. A new conditional graph discriminator has also been proposed to classify target graphs by conditioning on input graphs. Extensive experiments on multiple synthetic and real-world datasets demonstrate the effectiveness and scalability of the proposed GT-GAN.

研究の動機と目的

• 既存の非条件付きグラフ生成モデルには制御が欠けているという問題に対処し、特定のターゲットパターンに向けた生成をガイドできないこと。
• 歴史的データがターゲットパターンに存在しない場合でも、ソースグラフが意味的または構造的に関連するターゲットグラフに変換されるグラフ翻訳を可能にすること。
• 置換不変性を備えた複雑で可変サイズのグラフ構造をモデル化できるスケーラブルで拡張可能なフレームワークの開発。
• 正常な入力グラフから異常なグラフパターン（例：渋滞、サイバー攻撃）を推論することで、災害管理やレアイベント予測などの実世界の応用を支援すること。
• 翻訳中にグローバルトポロジーとローカル構造的性質の両方を保持する高精度なグラフ生成を達成すること。

提案手法

• 入力グラフからターゲットグラフへの条件付き生成モデルを学習する新規なグラフ翻訳生成対抗ネットワーク（GT-GAN）を提案する。
• グローバルおよびローカル構造的パターンを保持しながら、入力グラフを符号化し、ターゲットグラフにデコードするための新規なグラフ畳み込みおよびデコンボリューション層を設計する。
• 入力グラフを条件としてターゲットグラフを分類するグラフ畳み込みネットワーク（GCN）に基づく条件付きグラフ識別器を導入し、忠実性と一貫性を向上させる。
• 生成器（グラフ翻訳者）と条件付き識別器のミニマックスゲームとしての訓練目的を定式化し、現実的で構造的に正確な翻訳を最適化する。
• ノード数に関して最悪でも2次関数的時間およびメモリ複雑性を確保することでスケーラビリティを実現し、中規模のグラフへの応用を可能にする。
• GCN層や識別器内の距離測定法などのコアコンポonentを、高度な技術にモジュール式に置き換え可能であるようにして拡張性を確保する。

実験結果

リサーチクエスチョン

• RQ1 ターゲットパターンの事前例が存在しない状況でも、深層生成モデルが構造的・意味的に意味のあるターゲットグラフに、入力グラフを効果的に翻訳できるか。
• RQ2 とくに希少または異常パターンを含む状況において、モデルがグローバルトポロジーとローカル構造的特徴をどれほど正確に保持できるか。
• RQ3 提案されたGT-GANが、従来の非条件付きグラフ生成モデル（例：VAEベース手法）に比べて、現実的で判別可能なターゲットグラフをどれほど優れて生成できるか。
• RQ4 GT-GANフレームワークは、スケールフリーおよびポアソンランダムグラフを含む多様な合成および実世界のグラフ分布に、どれほどスケーラブルかつ汎用的か。
• RQ5 実際のターゲットデータが存在しない場合でも、生成されたグラフが、下流の分類タスクの正例として効果的に使用できるか。

主な発見

• GT-GANは、ランダムVAEベースラインを著しく上回り、ポアソンランダムグラフではF1スコアで50%の向上を達成し、スケールフリーグラフでは全指標で10%以上の向上を示した。
• ユーザ権限データセットでは、GT-GANが生成したグラフは50ノードの場合AUCが0.78、300ノードの場合AUCが0.79を達成し、ランダムVAE（AUC〜0.5）を著しく上回り、最適分類器（AUC〜0.97）に近づいた。
• 生成グラフの平均エッジ増加比は3.6であり、真値の5に近く、GT-GANが入力からターゲットへの翻訳ルールを効果的に学習していることを示している。
• GT-GANが生成したグラフで訓練された分類器の性能は、最適分類器に常に近く、生成グラフが判別的に有効で、下流タスクに有用であることを示している。
• 異常状態の例が存在しない状況でも、GT-GANは正常な入力グラフから異常ネットワークパターン（例：改ざんされた認証ネットワーク）を効果的に推論できた。
• 広範なアブレーションおよびケーススタディにより、GT-GANがノード次数分布の類似性と構造的一致性によって裏付けられるように、グローバルおよびローカル翻訳マッピングを正確に捉えていることが確認された。