[論文レビュー] Constant Curvature Graph Convolutional Networks

Gregor Bachmann, Gary Bécigneul+1 more|arXiv (Cornell University)|Nov 12, 2019

Topological and Geometric Data Analysis参考文献 56被引用数 35

ひとこと要約

本論文はグラフ畳み込みネットワークを定数曲率空間（正、負、0）で動作するよう一般化し、統一された kappa-stereographic gyroframework を用いて曲率間の微分可能な補間を実現し、非ユークリッドグラフデータにおけるノード表現を改善する。

ABSTRACT

Interest has been rising lately towards methods representing data in non-Euclidean spaces, e.g. hyperbolic or spherical, that provide specific inductive biases useful for certain real-world data properties, e.g. scale-free, hierarchical or cyclical. However, the popular graph neural networks are currently limited in modeling data only via Euclidean geometry and associated vector space operations. Here, we bridge this gap by proposing mathematically grounded generalizations of graph convolutional networks (GCN) to (products of) constant curvature spaces. We do this by i) introducing a unified formalism that can interpolate smoothly between all geometries of constant curvature, ii) leveraging gyro-barycentric coordinates that generalize the classic Euclidean concept of the center of mass. Our class of models smoothly recover their Euclidean counterparts when the curvature goes to zero from either side. Empirically, we outperform Euclidean GCNs in the tasks of node classification and distortion minimization for symbolic data exhibiting non-Euclidean behavior, according to their discrete curvature.

研究の動機と目的

• 非ユークリッド幾何（ハイパーボリック、球面）がユークリッド空間よりも特定のグラフ構造データをよりよくモデルできる理由を動機づける。
• 定数曲率幾何を補間する統一的な gyrovector-space フレームワークを紹介する。
• κ-GCNs を κ-stereographic モデルで動作させ、曲率が0に近づくとユークリッド GCNs を回復させる。
• グラフニューラルネットワークの学習とともに曲率と幾何を differentiable learning 可能にする。

提案手法

• 正と負の曲率を単一の枠組みに統一する κ-stereographic モデルを定義する。
• gyrovector space 操作 (kappa-addition, kappa-scaling) を拡張し、距離、exp/log 写像、測地線の閉形式表現を提供する。
• κ-right-matrix-multiplication を曲率対応の埋め込み線形変換として導入する。
• κ-left-matrix-multiplication をメッセージ伝搬の重み付き gyromidpoint ベースの集約として提案する。
• 分類タスクのために κ-logit レイヤーと曲率対応の softmax を採用する。
• 左乗算の intrinsic 性と右確率行列との関係、および曲率補間の微分可能性を示す。

実験結果

リサーチクエスチョン

• RQ1 定数曲率空間は GCN のためのユークリッド・ハイパーボリック・球面幾何の間の微分可能な補間を提供できるか？
• RQ2 κ-GCNs は Euclidean GCNs および以前の hyperbolic 手法と比べて、非ユークリッドグラフ上のノード分類と歪み最小化を改善するか？
• RQ3 曲率を学習することは非ユークリッド構造を持つグラフの表現を改善するか？
• RQ4 定数曲率成分の直積空間（例: H^8 × S^8）による埋め込みは単一幾何学よりさらなる改善をもたらすか？

主な発見

• κ-GCNs はノード分類データセットおよび合成・実データ上の歪み最小化で Euclidean GCNs を上回る。
• モデルは極限 κ → 0 のとき Euclidean GCNs を回復し、幾何学間の連続的な補間を保証する。
• 多様な幾何学を組み合わせた埋め込み（例：超曲線的成分、球状成分）は、歪みをさらに減少させ、一部データセットで性能を向上させ得る。
• 調査対象データセット（Citeseer, Cora, Pubmed, Airport）は κ-GCNs が Euclidean および以前の hyperbolic GNNs と比較して競争力のある、または優れた精度を示す。
• κ-stereographic フレームワークは距離、exp/log 写像、測地線の閉形式演算を提供し、曲率間の微分可能な学習を効率的に実現する。