[論文レビュー] Geometric Graph Convolutional Neural Networks.

Przemysław Spurek, Tomasz Danel+5 more|arXiv (Cornell University)|Sep 11, 2019

Advanced Graph Neural Networks参考文献 10被引用数 9

ひとこと要約

本論文は、空間的ノード位置を組み込むことでグラフ内の幾何学的順序をモデル化する、GCNにインspiredされたアーキテクチャであるSpatial Graph Convolutional Networks (SGCN)を提案する。これはGCNとCNNの両方を一般化する。空間的特徴とデータ拡張を活用することで、SGCNは画像分類および分子性質予測タスクで最先端の性能を達成する。

ABSTRACT

Graph Convolutional Networks (GCNs) have recently become the primary choice for learning from graph-structured data, superseding hash fingerprints in representing chemical compounds. However, GCNs lack the ability to take into account the ordering of node neighbors, even when there is a geometric interpretation of the graph vertices that provides an order based on their spatial positions. To remedy this issue, we propose Spatial Graph Convolutional Network (SGCN) which uses spatial features to efficiently learn from graphs that can be naturally located in space. Our contribution is threefold: we propose a GCN-inspired architecture which (i) leverages node positions, (ii) is a proper generalization of both GCNs and Convolutional Neural Networks (CNNs), (iii) benefits from augmentation which further improves the performance and assures invariance with respect to the desired properties. Empirically, SGCN outperforms state-of-the-art graph-based methods on image classification and chemical tasks.

研究の動機と目的

• 標準的なGCNが隣接ノードの順序を無視するという限界に対処すること、特に空間幾何がノードの自然な順序を示唆する場合でも同様である。
• ノード位置からの幾何的情報をメッセージスティンング機構に統合するグラフニューラルネットワークアーキテクチャの開発。
• 空間に敏感なメッセージスティングフレームワークを通じて、GCNとCNNの帰納的バイアスを統一的に統合し、両者を一般化すること。
• 空間グラフ構造に特化したデータ拡張技術を用いて、モデルのロバストネスと不変性を向上させること。

提案手法

• ノード間の相対的位置を注目度または重み係数として用いる空間に敏感なメッセージスティング機構を導入し、集約時に活用する。
• ノード特徴と幾何的特徴（例：3次元座標）を組み合わせて、より豊かなノード表現を生成するグラフ畳み込み層を設計する。
• 空間的近接性を尊重する学習可能な集約関数を採用し、幾何的配置に基づいて隣接ノードを区別できるようにする。
• 訓練時に幾何的データ拡張（例：回転、平行移動）を適用し、空間変換に対する不変性を向上させる。
• 順列不変性を保持しながらも空間構造を尊重する対称的メッセージスティング方式を採用する。
• 空間特徴を無視した場合にGCNに簡約され、固定された空間的レイアウトを持つ定期的グリッドに適用された場合にCNNに簡約されるため、GCNとCNNを一般化する。

実験結果

リサーチクエスチョン

• RQ1 GCNにノードの空間的位置を組み込むことで、固有の幾何構造を有するグラフ構造データにおける性能向上が図れるか？
• RQ2 提案されたSGCNアーキテクチャは、統一されたフレームワーク内でGCNとCNNをどの程度一般化できるか？
• RQ3 幾何的データ拡張は、グラフ学習タスクにおけるロバストネスと不変性をどの程度向上させるか？
• RQ4 SGCNは、画像および分子性質予測ベンチマークで、既存の最先端のグラフベースモデルを上回るか？

主な発見

• SGCNは、グラフに構築された画像における幾何的構造を活用することで、画像分類ベンチマークで最先端の性能を達成する。
• 分子性質予測タスクにおいて、SGCNは既存のグラフベースモデルを上回り、より優れた一般化性能と不変性を示す。
• 空間的特徴の統合により、接続関係だけではなく幾何的文脈を捉えるより表現力の高いノード表現が得られる。
• 空間変換に基づくデータ拡張は、異なるグラフ構成においてモデルのロバストネスと一般化性能を顕著に向上させる。
• SGCNは、空間特徴を無効化した場合にGCNに簡約され、定期的格子に適用された場合にCNNに簡約されるため、GCNとCNNを一般化する。
• モデルは順列不変性を維持しながらも空間的順序に敏感であるため、幾何的構造を効果的に活用できる。