[論文レビュー] Heterogeneity-Aware Knowledge Sharing for Graph Federated Learning

Wentao Yu, Sheng Wan+3 more|arXiv (Cornell University)|Jan 29, 2026

Advanced Graph Neural Networks被引用数 0

ひとこと要約

FedSSA は、ノード特徴の不均質性と構造的不均質性の両方を、意味的および構造的整合を用いてグラフ連邦学習に対処する。ノード特徴の変分クラスタリングと構造のスペクトルエネルギーに基づくクラスタリングにより、理論的収束と強い実証的改善を示す。

ABSTRACT

Graph Federated Learning (GFL) enables distributed graph representation learning while protecting the privacy of graph data. However, GFL suffers from heterogeneity arising from diverse node features and structural topologies across multiple clients. To address both types of heterogeneity, we propose a novel graph Federated learning method via Semantic and Structural Alignment (FedSSA), which shares the knowledge of both node features and structural topologies. For node feature heterogeneity, we propose a novel variational model to infer class-wise node distributions, so that we can cluster clients based on inferred distributions and construct cluster-level representative distributions. We then minimize the divergence between local and cluster-level distributions to facilitate semantic knowledge sharing. For structural heterogeneity, we employ spectral Graph Neural Networks (GNNs) and propose a spectral energy measure to characterize structural information, so that we can cluster clients based on spectral energy and build cluster-level spectral GNNs. We then align the spectral characteristics of local spectral GNNs with those of cluster-level spectral GNNs to enable structural knowledge sharing. Experiments on six homophilic and five heterophilic graph datasets under both non-overlapping and overlapping partitioning settings demonstrate that FedSSA consistently outperforms eleven state-of-the-art methods.

研究の動機と目的

• グラフ連邦学習におけるノード特徴の不均質性と構造的不均質性という二重のヘテロゲネシティを動機づけ、対処する。
• プライバシーを保持しつつ、クライアント間で意味的および構造的知識を共有する FedSSA を提案する。
• 特徴分布とスペクトルグラフ構造のいずれにも対してクラスタリングおよび整合機構を開発する。
• 理論的収束保証と多様なデータセット（同質-異質両方）での実証的証拠を提供する。

提案手法

• クライアントごとにクラス別のノード特徴分布を推定し、これらの分布でクライアントをクラスタリングする変分モデルを導入する。
• モーメント整合（平均と共分散）によりクラスタレベルの代表分布を構築し、ローカル分布とクラスタ分布間のKL発散を最小化して意味知識を共有する。
• 各クライアントの構造を特徴づけるためにスペクトルGNNsと新しいスペクトルエネルギー指標を用い、 Grassmann多様体幾何に基づいてスペクトルエネルギーでクライアントをクラスタリングする。
• クラスタレベルのスペクトルGNNs を構築し、局所スペクトルGNNs をクラスタレベルGNNに合わせてスペクトル係数を一致させ、正則化を課して整合する。
• 標準的仮定の下で FedSSA の線形収束を証明し、意味的および構造的ミスアライメント項を結合した誤差床を定義する。

実験結果

リサーチクエスチョン

• RQ1 グラフ連邦学習において意味的整合を通じてノード特徴の不均質性をどのように明示的に対処できるか。
• RQ2 スペクトル情報と整合を介して構造的不均質性をどのように捉え、緩和できるか。
• RQ3 特徴と構造の不均質性の両方に対処するデュアル知識共有フレームワークの理論的収束性はどうなるか。
• RQ4 意味的および構造的整合は、同質・異質グラフのさまざまなパーティショニング方式下で一貫した利得をもたらすか。

主な発見

• FedSSA は、6つの同質性データセットと5つの異質性データセットの計11方法を常に上回る。
• 異質設定では、FedSSA は第2位手法（FedIIH）を分類精度で2.82ポイント上回る。
• 非重複および重複パーティショニングの両方のスキーム下で66のシナリオにおいて強力な実証性能を達成する。
• 意味的および構造的誤差項を統合した O(E) の近傍までの線形収束保証を提供する。
• 多様なデータセットでの広範な実験により、標準偏差が小さく安定性を示す。
• 収束と性能向上は、意味的および構造的知識の明確な分離と整合に基づく。