[論文レビュー] Generator-based Graph Generation via Heat Diffusion

Anthony Stephenson, Ian Gallagher+1 more|arXiv (Cornell University)|Feb 3, 2026

Advanced Graph Neural Networks被引用数 0

ひとこと要約

本論文は対称ラプラシアン熱拡散をグラフ行列上で利用して代理生成器を学習し、逆時ODEを用いて新しいグラフをサンプリングする生成器マッチングフレームワーク G3 を提案する。拡散ベースのグラフ生成と原理的な生成器ダイナミクスを統一し、競争力のある性能とスケーラビリティを示す。

ABSTRACT

Graph generative modelling has become an essential task due to the wide range of applications in chemistry, biology, social networks, and knowledge representation. In this work, we propose a novel framework for generating graphs by adapting the Generator Matching (arXiv:2410.20587) paradigm to graph-structured data. We leverage the graph Laplacian and its associated heat kernel to define a continous-time diffusion on each graph. The Laplacian serves as the infinitesimal generator of this diffusion, and its heat kernel provides a family of conditional perturbations of the initial graph. A neural network is trained to match this generator by minimising a Bregman divergence between the true generator and a learnable surrogate. Once trained, the surrogate generator is used to simulate a time-reversed diffusion process to sample new graph structures. Our framework unifies and generalises existing diffusion-based graph generative models, injecting domain-specific inductive bias via the Laplacian, while retaining the flexibility of neural approximators. Experimental studies demonstrate that our approach captures structural properties of real and synthetic graphs effectively.

研究の動機と目的

• グラフ生成をグラフの分布を学習することと、構造的に類似したサンプルを生成することとして動機づける。
• グラフトポロジーを尊重するラプラシアン熱拡散に基づく principled forward ノイジング機構を導入する。
• 真の拡散生成器を近似するために生成器マッチングにより代理生成器を定義・学習する。
• 単純な基底分布から学習済みの逆時ODEを統合して新しいグラフをサンプリングする。

提案手法

• forward ノイジング機構として H_s = e^{-sL} によるグラフ行列 Y_s = H_s Y_0 H_s 上の対称熱拡散を用いる。
• 無限小生成器 G を LY + YL に対して JY = -(LY+YL) と定義し、時間を[0,1]上で X_t = Y_{T(1-t)} によってスケール変換する。
• 生成器マッチング損失を用いて真の生成器と一致させるために J^θ_t というニューラル代理生成器を訓練する。ブレグマン発散を用いた生成器マッチング損失。
• 試験を線形汎関数 f_A(X)=<A,X>で表現し、グラフラプラシアンによって特徴づけられる状態空間演算子 J を得る (J f_A)(X)=<A, J(X)> = <A, T(LX+XL)>。
• 学習済み逆時ODE dX_t/dt = J^θ_t(X_t) を置換対称の基底分布から積分して、新しいグラフをサンプリングし、隣接行列への閾値処理を行う。

実験結果

リサーチクエスチョン

• RQ1 グラフラプラシアンに基づく principled forward diffusion を生成器マッチングで学習できるか。
• RQ2 forward-diffused なグラフ上で訓練された代理生成器は安定かつスケーラブルな逆時グラフサンプリングを可能にするか。
• RQ3 G3 は拡散ベースのグラフ生成器と比較してトポロジーの保持と計算効率の点でどうなるか。

主な発見

Dataset	Model	Clustering	Degree	Orbit	Spectrum	Triangles
SBM	G3	0.0356 ± 0.0005	0.0318 ± 0.0052	0.0631 ± 0.0120	0.0796 ± 0.0120	0.0270 ± 0.0078
SBM	Asymm. G3	0.0398 ± 0.0010	0.0390 ± 0.0052	0.0710 ± 0.0140	0.0832 ± 0.0015	0.0287 ± 0.0084
SBM	DeFoG	0.0500 ± 0.0000	0.0258 ± 0.0190	0.0500 ± 0.0000	0.0884 ± 0.0740	0.0097 ± 0.0083
SBM	SPECTRE	0.0588 ± 0.0089	0.2030 ± 0.1700	0.0500 ± 0.0000	0.7010 ± 0.4800	0.3320 ± 0.2300
DCSBM	G3	0.1270 ± 0.0091	0.0344 ± 0.0062	0.0971 ± 0.0057	0.1230 ± 0.0330	0.0110 ± 0.0098
DCSBM	Asymm. G3	0.2340 ± 0.0160	0.0810 ± 0.0200	0.1420 ± 0.0170	0.1010 ± 0.0220	0.0578 ± 0.0250
DCSBM	DeFoG	0.0556 ± 0.0067	0.0063 ± 0.0050	0.0591 ± 0.0110	0.0499 ± 0.0240	0.0006 ± 0.0002
DCSBM	SPECTRE	1.0800 ± 0.0340	0.6640 ± 0.0007	1.0400 ± 0.0004	1.2500 ± 0.0250	0.7340 ± 0.0130
Planar	G3	0.3090 ± 0.0300	0.0030 ± 0.0015	0.0035 ± 0.0018	0.0060 ± 0.0015	0.0467 ± 0.0360
Planar	Asymm. G3	1.0200 ± 0.0440	0.0074 ± 0.0050	0.0106 ± 0.0089	0.0113 ± 0.0021	0.1110 ± 0.0320
Planar	DeFoG	0.0413 ± 0.0047	0.0007 ± 0.0001	0.0002 ± 0.0000	0.0006 ± 0.0003	0.0056 ± 0.0013
Planar	SPECTRE	0.1420 ± 0.0220	0.0242 ± 0.0190	0.4240 ± 0.3800	0.0560 ± 0.0019	0.0226 ± 0.0026
Enzymes	G3	0.0225 ± 0.0008	0.0854 ± 0.0550	0.0902 ± 0.0390	0.0755 ± 0.0220	0.0490 ± 0.0380
Enzymes	Asymm. G3	0.0803 ± 0.0200	0.0934 ± 0.0520	0.1040 ± 0.0047	0.1090 ± 0.0480	0.0752 ± 0.0120
Enzymes	DeFoG	0.0765 ± 0.0036	0.7220 ± 0.0070	0.5530 ± 0.0140	1.2000 ± 0.0270	0.4650 ± 0.0033
Enzymes	SPECTRE	0.0275 ± 0.0002	0.0168 ± 0.0013	0.0796 ± 0.0120	0.0490 ± 0.0030	0.0236 ± 0.0029
Proteins	G3	0.0465 ± 0.0009	0.0220 ± 0.0012	0.5530 ± 0.0720	0.1600 ± 0.0074	0.0928 ± 0.018
Proteins	Asymm. G3	0.0750 ± 0.0073	0.0345 ± 0.0003	0.3480 ± 0.2000	0.0921 ± 0.0110	0.0419 ± 0.0071
Proteins	DeFoG	0.1050 ± 0.0032	0.7500 ± 0.0003	1.2700 ± 0.0000	1.2000 ± 0.0110	0.5800 ± 0.0006
Proteins	SPECTRE	0.1070 ± 0.0001	0.0867 ± 0.0480	0.8400 ± 0.0085	0.1310 ± 0.0430	0.1240 ± 0.0110
QM9	G3	0.2530 ± 0.0074	0.1870 ± 0.0400	0.1650 ± 0.0330	0.1100 ± 0.0027	0.1100 ± 0.0066
QM9	Asymm. G3	0.0834 ± 0.0170	0.0214 ± 0.0033	0.0036 ± 0.0013	0.0168 ± 0.0033	0.0521 ± 0.0130
QM9	DeFoG	0.5460 ± 0.3000	0.0449 ± 0.0170	0.0036 ± 0.0001	0.0640 ± 0.0049	0.1730 ± 0.0950
QM9	SPECTRE	0.0200 ± 0.0110	0.0027 ± 0.0001	0.0008 ± 0.0001	0.0046 ± 0.0003	0.0051 ± 0.0043

• G3 は複数データセットでクラスタリング、次数分布、軌道数分布、スペクトル、三角形の MMD スコアで競争力を示す。
• 対称熱拡散ベースの G3 は多くの指標でベースラインを上回ることが多く、訓練・サンプル生成が競合よりはるかに高速（サンプルあたり秒単位 vs 競合は分単位）。
• 非対称および対称の熱拡散バリアントはデータセット依存の性能を示し、対称が一般に有効だが、生体分子様データでは非対称性が時により良いこともある。
• 基底分布とネットワークアーキテクチャの選択は性能に影響を与え、適切な設定で G3 はスペクトル忠実度と構造特性を強く維持する。
• G3 は置換不変性を維持し、ラプラシアンに起因する帰納バイアスを活用して生成時のグラフトポロジーを保持する。