[論文レビュー] Graph Embedding via Diffusion-Wavelets-Based Node Feature Distribution Characterization

Lili Wang, Cheng‐Han Huang+3 more|arXiv (Cornell University)|Sep 14, 2021

Advanced Graph Neural Networks参考文献 33被引用数 12

ひとこと要約

本論文は、kホップサブグラフ内のトポロジカルな類似性を捉えるために拡散ウェーブレットを活用し、特徴関数を用いてノード特徴の分布を特徴づける、新しい非教師あり全体グラフ埋め込み手法を提案する。これらの関数を統合し、対割り当ての最小差分（MDPA）を用いてトポロジカル類似性を測定することで、4つの実世界データセットにおけるグラフ分類タスクで最先端の性能を達成し、FEATHERを含む12のベースラインを上回る。

ABSTRACT

Recent years have seen a rise in the development of representational learning methods for graph data. Most of these methods, however, focus on node-level representation learning at various scales (e.g., microscopic, mesoscopic, and macroscopic node embedding). In comparison, methods for representation learning on whole graphs are currently relatively sparse. In this paper, we propose a novel unsupervised whole graph embedding method. Our method uses spectral graph wavelets to capture topological similarities on each k-hop sub-graph between nodes and uses them to learn embeddings for the whole graph. We evaluate our method against 12 well-known baselines on 4 real-world datasets and show that our method achieves the best performance across all experiments, outperforming the current state-of-the-art by a considerable margin.

研究の動機と目的

• グラフ分類のための効果的な非教師あり全体グラフ埋め込み手法の不足に対処すること。
• スペクトルグラフウェーブレットを用いてkホップサブグラフ内のノード特徴の分布をモデル化すること。
• グラフ同型性に不変であり、特徴ノイズに対して頑健であることを保証すること。
• 既存の最先端手法を上回る性能を発揮すること。

提案手法

• グラフラプラシアンに基づく拡散ウェーブレットを用いて、トポロジカルな役割を反映するスペクトルウェーブレット係数を計算する。
• スケーリングパラメータ 𝜏 を用いた熱核フィルタを適用し、信号を平滑化して構造的類似性を強調する。
• kホップサブグラフ内のノード特徴の特徴関数を計算し、局所的な特徴分布を表現する。
• MDPA（Earth Mover's Distanceの変種）を用いて、ノードエネルギー分布間のトポロジカル類似性を測定する。
• ノード間で特徴関数を統合し、代表的な点を抽出してd次元のグラフレベル埋め込みを形成する。
• 正規化された隣接行列と遷移確率を用いることで、特徴ノイズに対して頑健性を向上させる。

実験結果

リサーチクエスチョン

• RQ1 kホップサブグラフ内のノード間のトポロジカル類似性を、拡散ウェーブレットが効果的に捉えられるか。
• RQ2 サブグラフ内のノード特徴の特徴関数を統合することで、識別性の高い全体グラフ埋め込みが得られるか。
• RQ3 提案手法がグラフ同型性に不変であり、特徴ノイズに対して頑健であるか。
• RQ4 既存の最先端手法を上回る性能を発揮するか。

主な発見

• GitHub Reposデータセットでは、平均AUCスコア0.772 ± 0.002を達成し、2番目に良いベースライン（FEATHER）の0.728 ± 0.002を上回った。
• Reddit Threadsデータセットでは、AUCが0.835 ± 0.001を達成し、FEATHER（0.823 ± 0.001）および他のすべてのベースラインを上回った。
• 本手法は、GitHub Repos、Reddit Threads、Twitch Egos、Deezer Egosの4つの実世界データセットすべてで、強力な一般化性能を示し、最先端の性能を達成した。
• パラメータ感度分析の結果、𝑘𝑚𝑎𝑥、𝑑、𝜏 の異なる値に対しても安定した性能を示し、ハイパーパrameterに対して低感度であることが示された。
• 理論的分析により、同型なグラフに対して同一の埋め込みを生成することが確認され、特徴関数差の有界な摂動を用いた証明により、特徴ノイズに対して頑健であることが示された。
• ノード特徴が欠落しているデータセットにおいて、手動でログ次数とクラスタリング係数を特徴として挿入することで、ノード特徴がなくても優れた性能を発揮した。