[論文レビュー] Diffusion Scattering Transforms on Graphs

Fernando Gama, Alejandro Ribeiro+1 more|arXiv (Cornell University)|Jun 22, 2018

Image and Signal Denoising Methods被引用数 33

ひとこと要約

本稿では、拡散ウェーブレットを活用して、グラフ信号の安定的かつトレーニング不要な表現を構築する、グラフ上の拡散スキャattering変換を導入する。この変換がグラフドメインのメトリック摂動に対して安定であることを証明し、作用素ノルムの差がグラフ間の拡散距離によって上限付けられることを示す。これにより、トレーニングを伴わず高周波成分に敏感な信号解析が可能になる。

ABSTRACT

Stability is a key aspect of data analysis. In many applications, the natural notion of stability is geometric, as illustrated for example in computer vision. Scattering transforms construct deep convolutional representations which are certified stable to input deformations. This stability to deformations can be interpreted as stability with respect to changes in the metric structure of the domain. In this work, we show that scattering transforms can be generalized to non-Euclidean domains using diffusion wavelets, while preserving a notion of stability with respect to metric changes in the domain, measured with diffusion maps. The resulting representation is stable to metric perturbations of the domain while being able to capture "high-frequency" information, akin to the Euclidean Scattering.

研究の動機と目的

• 非ユークリッド的領域におけるスキャattering変換の族を、拡散ウェーブレットを用いて定義すること。
• 拡散距離に基づくグラフ信号の変形の概念を形式化すること。
• グラフのメトリック摂動に対するグラフスキャattering変換の理論的安定性を確立すること。
• ドメイン変更に対して安定でありながら、高周波成分を保持する表現を実現すること。
• 分類タスクにおける手法の性能を検証し、線形ベースラインと比較して優れた安定性を示すこと。

提案手法

• グラフ信号解析のため、グラフ拡散ウェーブレットを用いてマルチスケールフィルタバンクを構築する。
• グラフスキャattering変換を、拡散ウェーブレットフィルタと局所非線形性（例：ReLU）の段階的合成として定義する。
• グラフ間のドメイン変形の尺度として、信号がグラフを通過するまでの時間を基にした拡散距離を用いる。
• 2つのグラフ上のスキャattering変換間の作用素ノルム差が、それらのグラフ間の拡散距離に比例することを理論的に導出する。
• 信号伝搬中の数値的安定性を確保するため、正規化された拡散作用素（W/λ_max(W)）を用いる。
• 分類タスク（著者識別やソース局所化など）の評価のため、スキャattering係数上で線形SVMをトレーニングする。

実験結果

リサーチクエスチョン

• RQ1 スキャattering変換は、ユークリッド的でない領域（例：グラフ）へ一般化可能であり、変形に対して安定性を保つのか？
• RQ2 グラフ信号に対して意味的な変形の概念を定義するにはどうすればよく、その変化を捉える尺度は何か？
• RQ3 得られたグラフスキャattering変換は、元のグラフ構造のメトリック摂動に対して安定なのか？
• RQ4 表現が判別力のある特徴（例：高周波成分）を保持しつつも、安定性を保てるのか？
• RQ5 実用的なグラフ信号分類タスクにおいて、スキャattering変換は線形手法やトレーニング可能なGNNと比較して、性能に優れているのか？

主な発見

• 2つのグラフ上のスキャattering変換間の作用素ノルム距離は、定数倍のグラフ間の拡散距離によって上限付けられる。
• 安定性の境界はグラフのスペクトルギャップに依存するが、ノード数とは無関係であるため、スケーラビリティが保証される。
• 分類タスクにおいて、線形手法（例：GFT）と比較して、グラフスキャattering変換がより低い分散を示し、性能が優れている。
• 著者識別タスクでは、スキャattering変換は訓練データの増加に従い単調に性能が向上するが、他の手法は不安定である。
• Facebookグラフにおけるソース局所化タスクでは、エッジ摂動に対して線形手法と比較して、スキャattering表現の分類誤差の変動が小さい。
• より深いグラフスキャattering変換は、より高い分類精度を達成しており、階層的信号特徴を捉える能力を示している。