[論文レビュー] Graph Wavelet Neural Network

Bingbing Xu, Huawei Shen+3 more|arXiv (Cornell University)|Apr 12, 2019

Advanced Graph Neural Networks被引用数 78

ひとこと要約

GWNNはグラフフーリエベースの畳み込みをグラフウェーブレット変換に置き換え、効率的でスパースかつ局所的なグラフ畳み込みを可能にし、Cora、Citeseer、Pubmedにおける半教師付きノード分類を改善します。

ABSTRACT

We present graph wavelet neural network (GWNN), a novel graph convolutional neural network (CNN), leveraging graph wavelet transform to address the shortcomings of previous spectral graph CNN methods that depend on graph Fourier transform. Different from graph Fourier transform, graph wavelet transform can be obtained via a fast algorithm without requiring matrix eigendecomposition with high computational cost. Moreover, graph wavelets are sparse and localized in vertex domain, offering high efficiency and good interpretability for graph convolution. The proposed GWNN significantly outperforms previous spectral graph CNNs in the task of graph-based semi-supervised classification on three benchmark datasets: Cora, Citeseer and Pubmed.

研究の動機と目的

• 非ユークリッドデータでのグラフ畳み込みを動機づけ、グラフフーリエベースの手法の制限に対処する。
• グラフ畳み込みの基盤としてグラフウェーブレット変換を導入する。
• パラメータ複雑性を低減した効率的なGWNNアーキテクチャを開発する。
• 標準的な半教師付きノード分類ベンチマーク（Cora、Citeseer、Pubmed）でGWNNの有効性を示す。

提案手法

• ラプラシアン固有ベクトルを用いたスケーリング行列 G_s およびウェーブレット psi_s を用いてグラフウェーブレット変換を定義する。
• グラフ畳み込みを x *G y = psi_s ((psi_s^{-1} y) ⊙ (psi_s^{-1} x)) と定式化する。
• 特徴変換 (X^m' = X^m W) をグラフ畳み込みからパラメータ効率的に分離した、効率的な2層の GWNN を提案する。
• スペクトル領域で対角フィルタ行列 F^m を用い、非線形活性化関数 h を用いる（出力にはReLU/softmax）。
• ラベル付きノード上でクロスエントロピー損失で学習し、勾配降下法により最適化する。
• psi_s および psi_s^{-1} のスパース性と局在性が、効率的で解釈可能な畳み込みを生み出すことを示す。

実験結果

リサーチクエスチョン

• RQ1 GWNNは標準的なグラフベース半教師付き分類データセットで従来のスペクトルCNNを上回るか？
• RQ2 特徴変換をグラフ畳み込みから分離することが、パラメータ効率と精度に及ぼす影響は？
• RQ3 グラフウェーブレットのスパース性と局在性の特性は、モデルの性能と解釈性にどう影響しますか？

主な発見

• GWNNはCora、Citeseer、Pubmedで従来のスペクトルCNNを一貫して上回る。
• GWNNは 82.8%（Cora）、71.7%（Citeseer）、79.1%（Pubmed）精度を達成する。
• グラフフーリエ変換をグラフウェーブレット変換に置換すると、Spectral CNN と比較して Cora と Citeseer で約10%、Pubmed で約5% の精度向上をもたらす。
• 特徴変換を畳み込みから分離するとパラメータ数が減少（例：ChebyNetの基準値: 46,080–178,032 パラメータ vs. Detaching-ChebyNet: 23,048–59,348）し、特に Pubmed で精度を向上させる場合がある（78.6% vs 74.4%）。
• GWNNのスパース性（例えば 2.8% の変換密度 vs フーリエの 99.1%）とウェーブレットの局在性は、効率性と解釈性に寄与する。