[論文レビュー] Principled Hyperedge Prediction with Structural Spectral Features and Neural Networks

Changlin Wan, Muhan Zhang+4 more|arXiv (Cornell University)|Jun 8, 2021

Infrastructure Maintenance and Monitoring参考文献 40被引用数 10

ひとこと要約

本稿では、ハイパーグラフ表現学習におけるエッジレベルおよびノードレベルのあいまいさを、二部グラフニューラルネットワークと構造的スペクトル特徴を組み合わせることで解決する新しいフレームワークSNALSを提案する。局所的スペクトル情報を通じて連携する相互作用を捉えることで、合成データおよび3Dゲノム相互作用データの両方で、最先端モデル比でほぼ30%の性能向上を達成した。

ABSTRACT

Hypergraph offers a framework to depict the multilateral relationships in real-world complex data. Predicting higher-order relationships, i.e hyperedge, becomes a fundamental problem for the full understanding of complicated interactions. The development of graph neural network (GNN) has greatly advanced the analysis of ordinary graphs with pair-wise relations. However, these methods could not be easily extended to the case of hypergraph. In this paper, we generalize the challenges of GNN in representing higher-order data in principle, which are edge- and node-level ambiguities. To overcome the challenges, we present SNALS that utilizes bipartite graph neural network with structural features to collectively tackle the two ambiguity issues. SNALS captures the joint interactions of a hyperedge by its local environment, which is retrieved by collecting the spectrum information of their connections. As a result, SNALS achieves nearly 30% performance increase compared with most recent GNN-based models. In addition, we applied SNALS to predict genetic higher-order interactions on 3D genome organization data. SNALS showed consistently high prediction accuracy across different chromosomes, and generated novel findings on 4-way gene interaction, which is further validated by existing literature.

研究の動機と目的

• ハイパーグラフと通常のグラフとの構造的差異に起因するエッジレベルおよびノードレベルのあいまいさとして、ハイパーエッジ予測におけるコアな課題を形式化すること。
• 両方のあいまいさタイプを一括して効果的に解消する原理的で整合性のある手法を開発すること。
• 局所的ハイパーエッジ環境のスペクトル情報を統合することで、高次関係を表現するGNNの表現力を強化すること。
• 実世界の3Dゲノム組織データを用いてモデルを検証し、生物学的に妥当な高次遺伝子相互作用を予測できる能力を示すこと。

提案手法

• SNALSは、ハイパーエッジとその構成ノード間の相互作用をモデル化するために二部グラフニューラルネットワークを採用し、ハイパーエッジ構造を明示的に表現することでエッジレベルのあいまいさを解消する。
• 各ハイパーエッジの局所的近傍から導出される構造的スペクトル特徴を統合し、連携依存関係を捉え、ノードレベルのあいまいさを軽減する。
• スペクトル特徴は、各ハイパーエッジとそのノードによって誘導される二部部分グラフのラプラシアンスペクトルを用いて計算され、トポロジカルな文脈が符号化される。
• モデルは二重ストリームアーキテクチャを採用しており、一方はノードレベルの集約を、もう一方は二部メッセージパッシングによるハイパーエッジレベルの表現を担当する。
• 訓練中の一般化を向上させるために、1つの正例に対して5つの負例ハイパーエッジを用いたネガティブサンプリングが適用される。
• モデル性能を複数のデータセットで最適化するために、広範なハイパーパramータチューニングが実施された。

実験結果

リサーチクエスチョン

• RQ1 エッジレベルおよびノードレベルのあいまいさは、既存のGNNベースのハイパーエッジ予測モデルの性能をどのように制限しているか？
• RQ2 構造的およびスペクトル的モデリングを通じて、両方のあいまいさタイプを統一的なフレームワークで効果的に解消できるか？
• RQ3 局所的ハイパーエッジ環境のスペクトル情報を統合することで、ハイパーグラフにおける表現学習が向上するか？
• RQ4 SNALSは、多様な生物学的および合成ハイパーグラフデータセットに一貫した性能で一般化可能か？
• RQ5 SNALSは、既存の文献による検証を経て、3Dゲノムデータにおいて生物学的に意味のある高次遺伝子相互作用を予測できるか？

主な発見

• SNALSは、ハイパーエッジ予測ベンチマークにおいて、最も強力なベースラインであるFamilySet比で平均30%の性能向上を達成した。
• setSEAL（強力なSOTA手法）比で13%の性能向上を示し、両方のあいまいさタイプを同時に解消する有効性が裏付けられた。
• 局所的スペクトル特徴を追加した場合（SNALS(f₁)）は、特にthredsデータセットでさらなる性能向上を示し、これらの特徴が不可欠な役割を果たしていることが確認された。
• 3Dゲノムデータでは、SNALSは全17本の常染色体において一貫性があり安定したAUC性能を維持したのに対し、setSEALは特定の染色体に偏った性能を示した。
• SNALSは、染色体11のTAD内に位置し、共調節化遺伝子Map2k6およびKcnj2と関連する、bin 5521, 5589, 5602, 5630の4重遺伝子相互作用を新たに予測した。この予測は、既存の文献による検証を経て妥当性が確認された。
• 予測上位の4重相互作用は生物学的に妥当であり、エンハンサー（E0524334）と共調節化遺伝子を含むため、機能的関連性が示唆された。