[論文レビュー] Stability of Graph Scattering Transforms

Fernando Gama, Joan Bruna+1 more|arXiv (Cornell University)|Jun 11, 2019

Advanced Graph Neural Networks参考文献 31被引用数 36

ひとこと要約

本論文は、多解像度グラフウェーブレットを用いて散乱変換をグラフデータに拡張し、順列不変性と相対的なグラフ撹乱に対する安定性を証明し、複数のタスクにおいてGFTと比較して実証的に競争力のある性能を示します。

ABSTRACT

Scattering transforms are non-trainable deep convolutional architectures that exploit the multi-scale resolution of a wavelet filter bank to obtain an appropriate representation of data. More importantly, they are proven invariant to translations, and stable to perturbations that are close to translations. This stability property dons the scattering transform with a robustness to small changes in the metric domain of the data. When considering network data, regular convolutions do not hold since the data domain presents an irregular structure given by the network topology. In this work, we extend scattering transforms to network data by using multiresolution graph wavelets, whose computation can be obtained by means of graph convolutions. Furthermore, we prove that the resulting graph scattering transforms are stable to metric perturbations of the underlying network. This renders graph scattering transforms robust to changes on the network topology, making it particularly useful for cases of transfer learning, topology estimation or time-varying graphs.

研究の動機と目的

• 時間とともにトポロジが変化する、または不確実であるネットワークデータに対して堅牢な表現を動機づける。
• 非訓練型の散乱フレームワークをグラフウェーブレットを用いて拡張する。
• グラフ撹乱下でのグラフ散乱変換（GSTs）の安定性と置換不変性を証明する。
• 数値実験を通じてGSTの有効性と堅牢性を示す。

提案手法

• ユークリッド畳み込みをグラフ畳み込みに置換し、分析的グラフウェーブレットのバンクを用いてGSTアーキテクチャを定義する。
• グラフシグナルをグラフシフト演算子とグラフフーリエ変換で記述し、グラフフィルタリングを実装する。
• ウェーブレットがフレーム（厳密にすることも可能）を成し、エネルギーの広がりを制御して安定したマルチスケール表現を可能にする。
• GSTsのノード再ラベリングに対する置換不変性（Prop. 1）を証明する。
• 相対撹乱モデルを提供し、撹乱サイズに依存するがグラフトポロジーには依存しない安定性界を導出する（Theorem 1とPropositions 2–3）。
• GST表現が非線形性により周波数全体に情報を拡散させるため、安定性と識別性の両方を確保することを示す。

実験結果

リサーチクエスチョン

• RQ1 グラフ散乱変換はノードの置換に対して不変であり続けるのか？
• RQ2 グラフ構造の相対的撹乱に対してGSTは安定しており、その安定性をグラフトポロジーに依存しない形で定量化できるのか？
• RQ3 GSTは実世界のタスクにおける安定性と識別力の点でGraph Fourier Transform表現とどのように比較されるのか？
• RQ4 エッジウェイトの調整、追加、削除などトポロジーの変化にも耐える性能をGSTは維持できるのか？

主な発見

• GSTsはグラフの置換に対して不変である（Prop. 1）。
• 相対撹乱モデルはグラフトポロジーに依存しない安定性界をGSTに対して与える（Theorem 1）。
• ウェーブレット出力は積分リプシッツ条件の下で撹乱サイズと線形に変化する（Prop. 2）。
• GST係数は撹乱に対して個別に安定しており（Prop. 3）、全GST表現の安定性につながる（Theorem 1）。
• 数値結果はGSTがGFTよりもはるかに安定した表現を提供し、著者属性推定とFacebookグラフタスクで分類性能が同程度かそれ以上となることを示す。tight Hannウェーブレットはしばしば最も安定性が高い。