[논문 리뷰] Hypergraph Convolutional Networks via Equivalency between Hypergraphs and Undirected Graphs

Jiying Zhang, Fuyang Li외 5명|arXiv (Cornell University)|2022. 03. 31.

Advanced Graph Neural Networks인용 수 9

한 줄 요약

이 논문은 일반화된 하이퍼그래프 스펙트럴 컨볼루션(GHSC)을 제안하며, 두 단계의 랜덤 워크를 통해 일반화된 하이퍼그래프와 무향 그래프 간의 등가성을 수립함으로써, 기존 그래프 컨volution 신경망(GCNNs)이 간선에 의존하는(EDVW) 및 간선에 독립적인(EIVW) 정점 가중치 하이퍼그래프를 모두 처리할 수 있도록 하는 통합 프레임워크를 제공한다. 이 방법은 사회망, 비전, 생정보학 분야의 다양한 벤치마크에서 최신 기술 수준의 성능을 달성한다.

ABSTRACT

As a powerful tool for modeling complex relationships, hypergraphs are gaining popularity from the graph learning community. However, commonly used frameworks in deep hypergraph learning focus on hypergraphs with edge-independent vertex weights (EIVWs), without considering hypergraphs with edge-dependent vertex weights (EDVWs) that have more modeling power. To compensate for this, we present General Hypergraph Spectral Convolution (GHSC), a general learning framework that not only handles EDVW and EIVW hypergraphs, but more importantly, enables theoretically explicitly utilizing the existing powerful Graph Convolutional Neural Networks (GCNNs) such that largely ease the design of Hypergraph Neural Networks. In this framework, the graph Laplacian of the given undirected GCNNs is replaced with a unified hypergraph Laplacian that incorporates vertex weight information from a random walk perspective by equating our defined generalized hypergraphs with simple undirected graphs. Extensive experiments from various domains including social network analysis, visual objective classification, and protein learning demonstrate the state-of-the-art performance of the proposed framework.

연구 동기 및 목표

• 딥 하이퍼그래프 학습 분야에서 간선에 의존하는 정점 가중치(EDVW) 하이퍼그래프에 대한 체계적인 프레임워크 부족 문제를 해결하기 위해.
• 기존 그래프 컨볼루션 신경망(GCNNs)과 하이퍼그래프 학습 간 격차를 해소하기 위해, GCNNs가 EDVW 및 EIVW 하이퍼그래프에 직접 적용될 수 있도록 하기 위해.
• 랜덤 워크 관점에서 정점 가중치 정보를 포함하는 이론적으로 탄탄한 통합 라플라시안을 개발하기 위해.
• 제안된 프레임워크가 다양한 실제 도메인에서 일반화 가능성과 효과성을 입증하기 위해.

제안 방법

• 두 단계의 랜덤 워크 과정을 통해 간선에 의존하는 정점 가중치(EDVW)를 포함하는 일반화된 하이퍼그래프 모델을 정의한다.
• 일반화된 하이퍼그래프와 등가의 가중치가 부여된 무향 그래프 간의 등가 조건을 수립하여, 표준 GCNN의 사용을 가능하게 한다.
• 랜덤 워크에서 유도된 정점 가중치 정보를 통합하는 통합 하이퍼그래프 라플라시안을 유도한다. 이는 GCNN에서 표준 그래프 라플라시안을 대체한다.
• 기존 GCNN의 그래프 라플라시안을 유도된 통합 하이퍼그래프 라플라시안으로 교체하여 GHSC 프레임워크를 구성한다.
• 고립된 정점의 특징을 유지하기 위해 재정규화 기법을 통합하여, 분리된 하이퍼그래프 데이터셋에서의 성능을 향상시킨다.
• 다양한 GCNN 아키텍처(GCN, SGC, APPNP 등)에 프레임워크를 적용하고, 논문, 비전, 단백질 데이터셋에서 평가한다.

실험 결과

연구 질문

• RQ1 하이퍼그래프의 간선에 의존하는 정점 가중치는 체계적인 무향 그래프 등가성에 의해 원리적으로 모델링될 수 있는가?
• RQ2 기존 그래프 컨볼루션 신경망(GCNNs)은 아키텍처 재설계 없이 EDVW 및 EIVW 하이퍼그래프를 모두 처리할 수 있도록 어떻게 적응시킬 수 있는가?
• RQ3 랜덤 워크를 통한 일반화된 하이퍼그래프를 등가의 무향 그래프로 매핑하는 데 이론적 기반은 무엇인가?
• RQ4 기존 방법과 비교해 볼 때 제안된 통합 라플라시안은 하이퍼그래프 학습 작업에서 성능을 얼마나 향상시키는가?
• RQ5 재정규화 기법은 분리된 하이퍼그래프 데이터셋에서 성능에 어떤 영향을 미치는가?

주요 결과

• GHSC는 Cora(74.79% ± 0.91), PubMed(75.37% ± 1.2), NTU(85.15% ± 0.34), ModelNet40(97.28% ± 0.15) 데이터셋에서 최신 기술 수준의 성능을 달성한다.
• 제거 실험 결과, 정점 가중치 행렬 Q와 재정규화 모두 효과적이며, 특히 분리된 데이터셋인 Cora와 PubMed에서 재정규화가 성능 향상에 뚜렷한 기여를 한다.
• Cora와 PubMed에서 재정규화 유무 간 성능 격차는 뚜렷하다(예: Cora에서 69.23% 대비 74.79%), 이는 고립된 정점의 특징을 유지하는 데 재정규화가 중요한 역할을 한다는 것을 시사한다.
• Q와 재정규화를 모두 적용한 H-SSGC는 Cora에서 75.91% ± 0.75, ModelNet40에서 97.74% ± 0.05를 기록하여 베이스라인 방법을 초월한다.
• H-GCN과 H-SSGC의 실행 시간은 UniGNN과 유사한 수준이며, HGAT 및 HyperGCN보다 훨씬 빠르며, Cora 공저자 관계 데이터셋에서 H-GCN의 에포크당 평균 학습 시간은 0.005s ± 0.002이다.
• 시각화 결과, HGAT의 학습 가능한 어텐션 메커니즘이 EDVW 행렬 Q와 유사한 경향을 보이며, 제안된 프레임워크의 해석 가능성에 대한 타당성을 뒷받침한다.