[논문 리뷰] Hypergraph Neural Networks

Yifan Feng, Haoxuan You외 3명|arXiv (Cornell University)|2018. 09. 25.

Advanced Graph Neural Networks참고 문헌 15인용 수 5

한 줄 요약

이 논문은 고차원 데이터 상관관계를 초그래프 구조를 통해 모델링함으로써 그래프 컨volution 네트워크를 확장하는 일반적인 프레임워크인 하이퍼그래프 신경망(HGNN)을 제안한다. 하이퍼엣지 컨볼루션 연산을 도입함으로써 HGNN는 데이터 내 복잡하고 다중 모odal한 관계를 효율적으로 포착하며, 특히 다중 모달 특징을 사용할 경우 인용 네트워크 및 시각적 객체 인식 작업에서 GCN과 최신 기법들을 능가한다.

ABSTRACT

In this paper, we present a hypergraph neural networks (HGNN) framework for data representation learning, which can encode high-order data correlation in a hypergraph structure. Confronting the challenges of learning representation for complex data in real practice, we propose to incorporate such data structure in a hypergraph, which is more flexible on data modeling, especially when dealing with complex data. In this method, a hyperedge convolution operation is designed to handle the data correlation during representation learning. In this way, traditional hypergraph learning procedure can be conducted using hyperedge convolution operations efficiently. HGNN is able to learn the hidden layer representation considering the high-order data structure, which is a general framework considering the complex data correlations. We have conducted experiments on citation network classification and visual object recognition tasks and compared HGNN with graph convolutional networks and other traditional methods. Experimental results demonstrate that the proposed HGNN method outperforms recent state-of-the-art methods. We can also reveal from the results that the proposed HGNN is superior when dealing with multi-modal data compared with existing methods.

연구 동기 및 목표

• 쌍방향 관계를 초월한 고차원 데이터 상관관계를 모델링하는 데에 그래프 컨볼루션 네트워크의 한계를 해결하기 위해.
• 표준 GCN을 일반화하기 위해 하이퍼그래프 구조를 통합함으로써 효율적인 딥 러닝 프레임워크를 개발하기 위해.
• 두 개 이상의 노드를 연결할 수 있는 유연한 하이퍼엣지를 활용하여 다중 모달 데이터로부터 효과적인 학습을 가능하게 하기 위해.
• 기존 하이퍼그래프 학습 방법의 높은 계산 비용을 극복하기 위해, 미분 가능하고 신경망과 호환되는 하이퍼엣지 컨볼루션 연산을 통해 이를 해결하기 위해.
• 실제 작업인 인용 네트워크 분류 및 시각적 객체 인식에서 HGNN의 우수성을 입증하기 위해.

제안 방법

• HGNN는 하이퍼엣지가 임의의 수의 노드를 연결할 수 있도록 하여 데이터를 하이퍼그래프로 표현함으로써 고차원적이고 복잡한 상관관계를 모델링한다.
• 하이퍼그래프 라플라시안을 사용하여 스펙트럴 그래프 컨볼루션을 하이퍼그래프로 일반화한 하이퍼엣지 컨볼루션 연산을 설계함으로써 하이퍼엣지를 통해 특징을 전파한다.
• 계산 효율성과 안정성을 확보하기 위해 하이퍼그래프 컨볼루션을 단순화된 체비셰프 다항식의 부분합으로 근사한다.
• 각 모달리티에 대해 별도의 하이퍼그래프 인접 행렬을 구성하고 이를 결합하여 통합된 다중 모달 하이퍼그래프 구조를 만든다.
• 하이퍼엣지 컨볼루션 레이어를 통해 하이퍼그래프 구조를 거쳐 기울기 전파가 가능하도록 엔드 투 엔드로 모델을 훈련시킨다.
• 하이퍼엣지가 정확히 두 개의 노드만 연결하는 경우(즉, 2차 하이퍼엣지인 경우) HGNN는 GCN의 특수한 경우로 일반화됨을 입증한다.

실험 결과

연구 질문

• RQ1 하이퍼그래프 기반 신경망 프레임워크는 쌍방향 관계를 초월한 고차원 데이터 상관관계를 효과적으로 모델링할 수 있는가?
• RQ2 제안된 하이퍼엣지 컨볼루션 연산은 전통적인 그래프 컨볼루션 대비 복잡한 데이터 구조를 포착하는 데서 어떻게 비교되는가?
• RQ3 기존 방법들과 비교해 볼 때 HGNN는 다중 모달 데이터에서 성능 향상 정도가 어느 정도인가?
• RQ4 실제 작업에서 HGNN는 GCN과 기존 하이퍼그래프 학습 방법보다 더 나은 표현 학습을 달성할 수 있는가?
• RQ5 다양한 모달리티의 통합은 시각적 객체 인식 및 인용 분류 작업에서 HGNN의 성능에 어떤 영향을 미치는가?

주요 결과

• ModelNet40 데이터셋에서 HGNN는 PointCNN보다 4.8%의 정확도 향상을 기록했으며, SO-Net보다는 3.2% 향상되었다.
• NTU 데이터셋에서 GVCNN과 MVCNN 특징을 모두 사용할 경우 HGNN는 GCN 대비 10.4% 향상된 성능을 보였다. 이는 다중 모달 데이터에서 뛰어난 성능을 발휘함을 시사한다.
• 단일 특징을 사용할 경우에도 HGNN는 일관된 성능 향상을 보였으며, MVCNN 특징을 사용할 경우 NTU 데이터셋에서 GCN 대비 2.0% 향상된 성능을 기록했다.
• 다중 모달 특징을 사용할 경우 성능 향상이 가장 두드러지며, 이는 HGNN가 이질적인 데이터 소스를 효과적으로 통합할 수 있음을 보여준다.
• 모든 실험에서 HGNN는 GCN보다 더 나은 결과를 기록했으며, 특징 세트와 데이터셋에 따라 0.3%에서 8.3%까지의 성능 향상을 기록했다.
• 결과는 하이퍼그래프 구조가 특히 다중 모달 환경에서 복잡한 데이터 관계를 포착하는 데에 표준 그래프 구조보다 더 효과적임을 확인한다.