[論文レビュー] Factorizable Graph Convolutional Networks

Yiding Yang, Zunlei Feng+2 more|arXiv (Cornell University)|Oct 12, 2020

Advanced Graph Neural Networks参考文献 20被引用数 70

ひとこと要約

FactorGCNは、単純な入力グラフを潜在的関係を表す複数のファクターグラフに分解し、関係特化の集約を行い、結果を統合して解釈可能で改善されたノード特徴量を生成する。

ABSTRACT

Graphs have been widely adopted to denote structural connections between entities. The relations are in many cases heterogeneous, but entangled together and denoted merely as a single edge between a pair of nodes. For example, in a social network graph, users in different latent relationships like friends and colleagues, are usually connected via a bare edge that conceals such intrinsic connections. In this paper, we introduce a novel graph convolutional network (GCN), termed as factorizable graph convolutional network(FactorGCN), that explicitly disentangles such intertwined relations encoded in a graph. FactorGCN takes a simple graph as input, and disentangles it into several factorized graphs, each of which represents a latent and disentangled relation among nodes. The features of the nodes are then aggregated separately in each factorized latent space to produce disentangled features, which further leads to better performances for downstream tasks. We evaluate the proposed FactorGCN both qualitatively and quantitatively on the synthetic and real-world datasets, and demonstrate that it yields truly encouraging results in terms of both disentangling and feature aggregation. Code is publicly available at https://github.com/ihollywhy/FactorGCN.PyTorch.

研究の動機と目的

• 複数の潜在関係が単一のエッジに収束する不規則なグラフ領域において、分離の動機づけを行う。
• 入力グラフを複数の潜在関係グラフに分解するグラフ畳み込みフレームワークを提案する。
• ファクター特異的な集約と統合を通じてブロック単位の解釈可能な特徴学習を可能にする。
• グラフレベルの分離が解釈性とタスク性能の両方を向上させることを示す。

提案手法

• 入力グラフを、グラフアテンション機構に類似して生成されるエッジごとの係数を用いる分離層を介して複数のファクターグラフに分解する。
• 各ファクターグラフ上で専用のGCNを適用して潜在特徴を取得する。
• 各ファクターの特徴を連結して最終的なノード表現を形成する。
• ファクターグラフを構造的に識別可能に促す識別子ヘッドを組み込み、多様な分離因子を促進する。
• タスク損失と識別子損失の組み合わせで訓練し、パラメータlambdaでバランスを取る。
• GED_Eに基づくグラフ編集距離とC-Score指標を導入・活用して分離品質を評価する。

実験結果

リサーチクエスチョン

• RQ1 FactorGCNはエッタイプラベルなしで、単一の入力グラフから分離された潜在関係グラフを学習できるか？
• RQ2 ファクター特異的な集約は、標準のGCNや関連する分離手法と比べて下流タスクを改善するか？
• RQ3 GED_EやC-Scoreのようなグラフベースの指標で分離品質をモデルが定量化できるか？
• RQ4 FactorGCNは、明示的なエッジタイプ情報がなくても標準的なグラフ分類ベンチマークで競争力を保つ一般的なGCNフレームワークか？

主な発見

• FactorGCNは合成データにおいて、分離指標と下流タスクの双方で最先端の性能を達成する。
• ZINCデータセットでは、FactorGCNはいくつかのベースラインを上回り、エッジ情報を使用しないにもかかわらずエッジタイプ対応法の性能と同等である。
• FactorGCNはグラフ分類データセットで一貫して高い精度を示し、DLベースのベースラインを上回り、多くの場合最新手法と同等かそれ以上の性能を発揮する。
• 定性的分析は、学習されたファクターグラフがブロック単位の分離された潜在特徴を捉え、それが下流性能の改善と相関していることを示す。
• アブレーションにより識別子が分離の決定的要因であること、真の値に近いファクターグラフ数が結果を改善することが示される。