[論文レビュー] Deconvolutional Networks on Graph Data

Jia Li, Jiajin Li+4 more|arXiv (Cornell University)|Oct 29, 2021

Advanced Graph Neural Networks参考文献 49被引用数 7

ひとこと要約

本稿では、グラフ畳み込みネットワーク（GCN）によって平滑化された表現から元のグラフ信号を再構築する手法として、グラフデコンボリューションネットワーク（GDN）を提案する。逆スペクトルフィルタリングとウェーブレットベースのノイズ除去を組み合わせることで、直接的なデコンボリューションに伴うノイズ増幅を軽減し、グラフ特徴の補完および構造生成タスクで最先端の性能を達成する。

ABSTRACT

In this paper, we consider an inverse problem in graph learning domain -- ``given the graph representations smoothed by Graph Convolutional Network (GCN), how can we reconstruct the input graph signal?" We propose Graph Deconvolutional Network (GDN) and motivate the design of GDN via a combination of inverse filters in spectral domain and de-noising layers in wavelet domain, as the inverse operation results in a high frequency amplifier and may amplify the noise. We demonstrate the effectiveness of the proposed method on several tasks including graph feature imputation and graph structure generation.

研究の動機と目的

• GCNによって平滑化された表現から元のグラフ信号を回復する逆問題に対処すること。
• GCN処理済み信号の直接的デコンボリューションに内在するノイズ増幅を克服すること。
• GDNを学習可能なデコーダとして用いた対称的エンコーダ・デコーダフレームワークを、グラフオートエンコーダに適用すること。
• グラフ特徴補完およびグラフ構造生成タスクにおける性能を向上させること。
• スペクトル逆操作とノイズ伝搬の分析を通じて、グラフデコンボリューションの原理的設計を提供すること。

提案手法

• GCNの平滑化を逆転させるために、スペクトル領域で逆フィルタを適用するスペクトル・ウェーブレット型GDNを提案する。
• 固有値分解を明示的に行わずに、マクローリン級数近似を用いて逆フィルタおよびウェーブレットカーネルを効率的に計算する。
• 高周波数ノイズが逆フィルタリングによって増幅されるのを抑えるために、ウェーブレットベースのノイズ除去を導入する。
• GCNエンコーダとGDNデコーダを組み合わせた対称的グラフオートエンコーダ（GAE）フレームワークを採用し、エンドツーエンドの学習を実現する。
• 変分的グラフオートエンコーダ（例：VGAE、Graphite）にGDNモジュールをプラグインデコーダとして統合し、生成品質を向上させる。
• GCNのスペクトル応答を低域通過フィルタ（g_c(λ) = 1 - λ）として捉え、その逆フィルタ g_d(λ) = 1 / (1 - λ) の設計に活用する。

実験結果

リサーチクエスチョン

• RQ1 GCNによって平滑化された表現から、元のグラフ信号を効果的に再構築できるか？
• RQ2 グラフデコンボリューションにおける逆フィルタリング操作によって引き起こされるノイズ増幅をどのように軽減できるか？
• RQ3 スペクトル・ウェーブレットハイブリッド設計は、直接的な逆フィルタリングよりも信号回復性能を向上させられるか？
• RQ4 GDNをグラフオートエンコーダに統合することで、特徴補完および構造生成タスクの性能が向上するか？
• RQ5 GDNは、VGAE や Graphite といった既存の生成モデルに対して、どの程度性能を向上させるか？

主な発見

• 提案されたGDNデコーダを搭載したGAEは、6つのベンチマークデータセットにおいて、グラフ特徴補完タスクで最先端の手法を上回った。
• MUTAGデータセットでは、GraphiteのAPスコアがGDNにより16.1%向上した。
• PTC-MRデータセットでは、GraphiteのAUCスコアがGDNにより20.9%向上した。
• VGAEフレームワークにおいて、GDNはZINCデータセットで対数尤度スコア（log p(A|Z)）を0.029向上させた。
• スペクトル・ウェーブレット型GDN設計は、ノイズ増幅を効果的に抑制し、単純な逆フィルタリングを上回る性能を示した。
• 本手法は強力な一般化性能を示し、最小限のアーキテクチャ変更で、多様なグラフ学習タスクにおける性能を向上させた。