[論文レビュー] Understanding Graph Neural Networks with Asymmetric Geometric Scattering Transforms

Michael Perlmutter, Feng Gao+2 more|arXiv (Cornell University)|Nov 14, 2019

Advanced Graph Neural Networks参考文献 32被引用数 10

ひとこと要約

本稿では、一般化された非対称ウェーブレットのクラスを用いて、窓付きおよび窓なしの非対称グラフスキャattering変換を導入し、対称な場合と同様の安定性および不変性の理論的保証を提供する。この手法は、スキャattering理論とグラフニューラルネットワークを結びつけるものであり、グラフ構造データに対する理論的根拠が強く、保証された安定性と学習可能なアーキテクチャを実現する。

ABSTRACT

The scattering transform is a multilayered wavelet-based deep learning architecture that acts as a model of convolutional neural networks. Recently, several works have introduced generalizations of the scattering transform for non-Euclidean settings such as graphs. Our work builds upon these constructions by introducing windowed and non-windowed graph scattering transforms based upon a very general class of asymmetric wavelets. We show that these asymmetric graph scattering transforms have many of the same theoretical guarantees as their symmetric counterparts. This work helps bridge the gap between scattering and other graph neural networks by introducing a large family of networks with provable stability and invariance guarantees. This lays the groundwork for future deep learning architectures for graph-structured data that have learned filters and also provably have desirable theoretical properties.

研究の動機と目的

• 非ユークリッド的グラフドメインにスキャattering変換フレームワークを非対称ウェーブレットを用いて拡張すること。
• 対称ウェーブレットにとどまらず、非対称ウェーブレットを用いたグラフスキャattering変換の理論的安定性および不変性特性を確立すること。
• スキャattering理論とグラフニューラルネットワークを統合し、理論的に望ましい性質を保証するアーキテクチャの族を導入すること。
• 将来のGNNに学習可能なフィルタを組み込みつつ理論的保証を維持できるようにすること。

提案手法

• グラフスキャattering変換に適した一般化された非対称ウェーブレットのクラスを提案し、非対称なフィルタ応答を可能にする。
• 異なる不変性および安定性要件に対応できるよう、窓付きおよび窓なしの両方のグラフスキャattering変換の変種を開発する。
• グラフラプラシアンに多層ウェーブレット変換を適用し、階層的かつ安定した表現を抽出する。
• 微分作用素としてのグラフラプラシアンを用いて、ウェーブレットベースのスキャattering経路を定義する。
• グラフの摂動に対する安定性および特定の変換に対する不変性といった理論的性質を導出する。
• 対称スキャatteringの理論枠組みを非対称設定に拡張し、重要な不変性および安定性の結果を保持する。

実験結果

リサーチクエスチョン

• RQ1 非対称ウェーブレットを用いて、対称な場合と同様の理論的保証を持つグラフスキャattering変換を構築できるか？
• RQ2 窓付きおよび窓なしのグラフスキャattering変換は、安定性および不変性の観点でどのように比較できるか？
• RQ3 非対称ウェーブレットをグラフに適用した場合に、安定性および不変性といった理論的性質をどの程度維持できるか？
• RQ4 グラフスキャatteringフレームワークを、学習可能なフィルタをサポートするように一般化できるか？ その際、保証された性能保証を維持できるか？
• RQ5 非対称ウェーブレットの使用は、グラフニューラルネットワークの表現力およびロバストネスにどのように影響を与えるか？

主な発見

• 提案された非対称グラフスキャattering変換は、対称な場合と同様に、グラフの摂動に対して安定性を維持する。
• 変換は特定のグラフ変換に対して不変性を達成し、層をまたいで構造的情報を保持する。
• 窓付きおよび窓なしの両変種とも、理論的保証が明確に示され、スキャatteringベースのGNNの適用範囲が拡張される。
• フレームワークは、学習可能なフィルタを備えた広範なアーキテクチャ族をサポートし、安定性および不変性を維持する。
• 本研究は、将来的なGNNが学習可能なフィルタと理論的ロバストネスを併せ持つ基盤を確立する。
• 非対称ウェーブレットは、理論的保証を損なうことなく、グラフ上でのより豊かな表現学習を可能にする。