[論文レビュー] Rayleigh Quotient Graph Neural Networks for Graph-level Anomaly Detection

Xiangyu Dong, Xingyi Zhang+1 more|arXiv (Cornell University)|Oct 4, 2023

Anomaly Detection Techniques and ApplicationsComputer Science被引用数 3

ひとこと要約

本稿では、異常グラフと正常グラフの間の固有スペクトル的差異を捉えるためにレイリークォートィエントを活用する、グラフレベルの異常検出を目的とした新規スペクトル的グラフニューラルネットワークRQGNNを提案する。明示的なレイリークォートィエント学習（RQL）とRQプーリングを組み合わせたチビシェフウェーブレットGNN（CWGNN-RQ）により、10の実世界データセットにおいて、最良のベースラインよりMacro-F1で6.74%、AUCで1.44%の向上を達成し、最先端の性能を実現した。

ABSTRACT

Graph-level anomaly detection has gained significant attention as it finds applications in various domains, such as cancer diagnosis and enzyme prediction. However, existing methods fail to capture the spectral properties of graph anomalies, resulting in unexplainable framework design and unsatisfying performance. In this paper, we re-investigate the spectral differences between anomalous and normal graphs. Our main observation shows a significant disparity in the accumulated spectral energy between these two classes. Moreover, we prove that the accumulated spectral energy of the graph signal can be represented by its Rayleigh Quotient, indicating that the Rayleigh Quotient is a driving factor behind the anomalous properties of graphs. Motivated by this, we propose Rayleigh Quotient Graph Neural Network (RQGNN), the first spectral GNN that explores the inherent spectral features of anomalous graphs for graph-level anomaly detection. Specifically, we introduce a novel framework with two components: the Rayleigh Quotient learning component (RQL) and Chebyshev Wavelet GNN with RQ-pooling (CWGNN-RQ). RQL explicitly captures the Rayleigh Quotient of graphs and CWGNN-RQ implicitly explores the spectral space of graphs. Extensive experiments on 10 real-world datasets show that RQGNN outperforms the best rival by 6.74% in Macro-F1 score and 1.44% in AUC, demonstrating the effectiveness of our framework. Our code is available at https://github.com/xydong127/RQGNN.

研究の動機と目的

• 既存のグラフレベルの異常検出手法においてスペクトル解析が欠如している問題に対処する。これらの手法はしばしば、異常グラフの潜在的スペクトル的性質を捉えていない空間的GNNに依存している。
• 特にレイリークォートィエントを通じたスペクトルエネルギー差が、異常グラフを識別するための判別的信号として機能するかどうかを検証する。
• レイリークォートィエントを明示的に符号化し、同時にスペクトル表現を暗黙的に学習する新しいGNNフレームワークの開発を目的とする。
• 従来のプーリング手法の限界を克服するため、スペクトルに配慮したプーリング機構としてのRQプーリングを導入する。
• トレーニング中にクラスバランスの取れたフォーカル損失を用いることで、グラフレベルの異常検出におけるデータの不均衡を緩和する。

提案手法

• 各グラフのレイリークォートィエントを明示的に計算し、学習可能な表現として埋め込むためのレイリークォートィエント学習（RQL）コンponentを提案する。
• チビシェフ多項式近似を用いてスペクトル領域でのグラフ信号をモデル化すると同時に、ノード重みとしてレイリークォートィエントを統合する、RQプーリングを備えたチビシェフウェーブレットGNN（CWGNN-RQ）を導入する。
• レイリークォートィエントに基づく注意重みを割り当てるスペクトルに配慮したプーリング機構としてのRQプーリングを新規に提案し、スペクトルに配慮したグラフレベル表現学習を可能にする。
• 明示的なRQLと暗黙的なCWGNN-RQ表現を連結することで、最終的なグラフ埋め込みを構築する。
• グラフレベルの異常検出における長尾データ分布に対処するため、クラスバランスの取れたフォーカル損失を用いることで、少数クラスにおけるモデルの頑健性を向上させる。
• 理論的分析により、グラフ内の蓄積スペクトルエネルギーがレイリークォートィエントに等価であることを証明し、異常検出のコアな信号としての妥当性を裏付ける。

実験結果

リサーチクエスチョン

• RQ1 レイリークォートィエントは、異常グラフと正常グラフを区別するための判別的スペクトル特徴として機能できるか？
• RQ2 異常グラフと正常グラフのスペクトルエネルギー分布にはどのような差が生じるか？ その差は定量的に測定可能であり、検出に活用可能か？
• RQ3 RQLによるレイリークォートィエントの明示的統合と、RQプーリングによる暗黙的統合を組み合わせることで、空間的GNNと比較してグラフレベルの異常検出性能が向上するか？
• RQ4 RQプーリングは、平均プーリングや合計プーリングといった標準的なプーリング関数に比べて、どれほどスペクトル異常を効果的に捉えられるか？
• RQ5 テストセットにおけるレイリークォートィエント分布を、モデルの一般化性能および検出信頼性の代理指標として用いることができるか？

主な発見

• 異常グラフのレイリークォートィエント分布は、正常グラフとは統計的に有意に異なるものであり、複数のデータセットおよびサンプルサイズにおいて一貫したパターンが観察された。
• RQGNNは、10の実世界データセットにおいて、最良のベースラインモデルよりMacro-F1スコアで平均6.74%、AUCで平均1.44%の向上を達成した。
• アブレーションスタディの結果、RQLおよびRQプーリングの両コンponentが不可欠であることが確認された。両者のいずれかを削除すると、Macro-F1で平均3.92%、AUCで平均1.76%の性能低下が生じた。
• RQプーリング機構は平均プーリングを著しく上回り、異常検出におけるスペクトルに配慮したプーリングの重要性を示した。
• ケーススタディでは、テストセットで正しく分類されたグラフが、トレーニングセットと同様のレイリークォートィエント分布を維持していることが示され、RQGNNが異常固有のスペクトル的傾向を正しく学習していることを確認した。
• ハイパーパramータ分析により、隠れ次元64、幅4、深さ6が複数のデータセットで最適な性能を発揮することが判明し、安定的かつ高品質な結果が得られることを保証した。