[論文レビュー] Random Wavelet Features for Graph Kernel Machines

Valentin de Bassompierre, Jean‐Charles Delvenne+1 more|arXiv (Cornell University)|Feb 17, 2026

Advanced Graph Neural Networks被引用数 0

ひとこと要約

この論文は、グラフウェーブレットに基づくランダム化スペクトルノード埋め込みを導入し、ラプラシアンベースのグラフカーネルを近似することでグラフ上のカーネル学習をスケーラブルにし、特にスペクトル的に局在するカーネルで高い性能を示す。

ABSTRACT

Node embeddings map graph vertices into low-dimensional Euclidean spaces while preserving structural information. They are central to tasks such as node classification, link prediction, and signal reconstruction. A key goal is to design node embeddings whose dot products capture meaningful notions of node similarity induced by the graph. Graph kernels offer a principled way to define such similarities, but their direct computation is often prohibitive for large networks. Inspired by random feature methods for kernel approximation in Euclidean spaces, we introduce randomized spectral node embeddings whose dot products estimate a low-rank approximation of any specific graph kernel. We provide theoretical and empirical results showing that our embeddings achieve more accurate kernel approximations than existing methods, particularly for spectrally localized kernels. These results demonstrate the effectiveness of randomized spectral constructions for scalable and principled graph representation learning.

研究の動機と目的

• グラフ上でのカーネルベース学習を動機づけ、グラフカーネルの計算コストに対処する。
• 与えられたグラフカーネルの低ランク近似をもたらすランダム化スペクトル埋め込み法を開発する。
• グラフ信号処理とグラフウェーブレットを活用して効率的な埋め込みを設計する。
• 特にスペクトル的に局在するカーネルに対する既存手法よりも改善されたカーネル近似の理論的保証と経験的証拠を提供する。

提案手法

• グラフノードのランダム特徴マップを構築し、内積が低ランクカーネルを近似するようにする: Γ ≈ Φ^T Φ。
• 二段階アルゴリズム: (i) フィルターされたランダム信号を用いて上位-K のグラフ調和量を近似する範囲探索; (ii) QR部分空間に適用された非線形スペクトルフィルタ h^{1/2}(L) を用いた埋め込み計算。
• 現実的な低パスフィルタリングの代替として、多項式 (Jackson-Chebyshev) 近似 p_χ を用いて範囲探索を実現。
• フィルタ済み部分空間からの埋め込み Φ を (p_h(L) Q)^T として定義し、カーネル h(L) の階数-K近似を得る。
• Randomized SVD へのつながりを引き出し、フィルターされたランダム信号の QR によるサブスペース推定の改善のためオーバーサンプリングを用いる。
• 固有分解を明示的に回避し、多項式近似とランダム射影を活用することで計算時間とメモリ使用量を低減し、実質的に線形に近いスケーリングを分析的に示す。

(a)

実験結果

リサーチクエスチョン

• RQ1 グラフウェーブレットを用いたランダム化スペクトル埋め込みは、ラプラシアンベースのグラフカーネルの正確な低ランク近似を提供できるか。
• RQ2 これらの埋め込みは、スペクトル的に局在するカーネルに対して、既存のランダム特徴法（g-GRFs）より優れているか。
• RQ3 このランダム化グラフカーネルフレームワークにおける近似精度と計算効率のトレードオフはどのようになるか。
• RQ4 グラフラプラシアンの固有値分布は手法の性能にどう影響を与えるか。

主な発見

• 提案されたランダム化スペクトル埋め込みは、理想的条件下で最良の rank-K 近似と一致する低ランク近似を生み出すが、近似多項式と範囲探索による追加誤差項がある。
• 経験的結果は、スペクトル的に局在するカーネルに対して一般的なグラフランダム特徴（g-GRFs）よりカーネル近似精度を改善しつつ、広範なカーネルに対しては競争力のある性能を維持している。
• 手法は固有分解を明示的に行わず、多項式近似とランダム射影を活用することで計算時間とメモリのスケーラビリティを示す。
• 性能はグラフの固有値分布と選択されたランク K に依存し、ターゲットカーネルに対してスペクトルが良好に振る舞う場合により良い結果が得られる。

(b)