[논문 리뷰] Graph Neural Networks Designed for Different Graph Types: A Survey

Josephine Maria Thomas, Alice Moallemy-Oureh외 2명|arXiv (Cornell University)|2022. 04. 06.

Advanced Graph Neural Networks인용 수 16

한 줄 요약

이 종합 검토는 정적, 동적, 이질적, 초그래프, 의미적 변형 등 다양한 그래프 유형을 이산적이고 연속적인 시간에서 처리할 수 있는 능력에 따라 그래프 신경망(GNN)을 체계적으로 분류한다. 복잡한 그래프 동역학, 특히 연속시간 그래프와 다중성 인식 모델에 대한 GNN 커버리지의 심각한 격차를 밝히며, 아키텍처 설계 및 누락된 모델 기회에 대한 체계적인 분석을 제공한다.

ABSTRACT

Graphs are ubiquitous in nature and can therefore serve as models for many practical but also theoretical problems. For this purpose, they can be defined as many different types which suitably reflect the individual contexts of the represented problem. To address cutting-edge problems based on graph data, the research field of Graph Neural Networks (GNNs) has emerged. Despite the field's youth and the speed at which new models are developed, many recent surveys have been published to keep track of them. Nevertheless, it has not yet been gathered which GNN can process what kind of graph types. In this survey, we give a detailed overview of already existing GNNs and, unlike previous surveys, categorize them according to their ability to handle different graph types and properties. We consider GNNs operating on static and dynamic graphs of different structural constitutions, with or without node or edge attributes. Moreover, we distinguish between GNN models for discrete-time or continuous-time dynamic graphs and group the models according to their architecture. We find that there are still graph types that are not or only rarely covered by existing GNN models. We point out where models are missing and give potential reasons for their absence.

연구 동기 및 목표

• 기존 GNN 모델을 처리할 수 있는 그래프 유형에 따라 체계적으로 분류하여 종합적인 개요를 제공하는 것.
• 현재 GNN 연구에서 부족하거나 누락된 그래프 유형과 특성(예: 동적 간선, 노드/간선 속성, 다중성)을 식별하는 것.
• 다양한 그래프 유형과 동역학에 대응하는 GNN 모델의 아키텍처 설계 패턴을 분석하는 것.
• 특정 그래프 유형에 대해 GNN 모델이 부재인 이유(예: 데이터 부족, 모델 복잡성)를 설명하는 것.
• 미개척된 그래프 유형과 GNN 개발의 아키텍처 기회를 부각시켜 향후 연구를 이끌어내는 것.

제안 방법

• 정적 및 동적 그래프에 대해 구조적(예: 방향성, 다중, 이질적, 초그래프)과 의미적(예: 순환, 이분, 정규) 그래프 유형으로 분류.
• 이산적 시간 대비 연속적 시간 동역학 및 노드/간선 속성 변화 처리 방식에 따라 GNN 모델을 분류.
• 메시지 전달, RNN 기반, 시간점프 과정 등 아키텍처 유형별로 모델을 그룹화하여 설계 패턴 분석.
• 인용 수, 일반성, 최신성, 그래프 특성 처리의 명시성, 단순성 등의 기준을 사용해 모델 중요도 평가.
• 각 그래프 유형당 대표 모델 1~2개를 선별하여 현재 기술 수준을 시각화.
• 다중성 및 연속적 동역학 모델링의 어려움을 고려한 정성적 추론을 통해 특정 그래프 유형에 대한 모델 부재 원인 분석.

실험 결과

연구 질문

• RQ1 기존 GNN 모델이 현재 어떤 그래프 유형과 특성을 지원하고 있는가?
• RQ2 특정 그래프 유형에 대응하는 GNN에서 가장 흔한 아키텍처 설계 패턴은 무엇인가?
• RQ3 왜 일부 그래프 유형—예를 들어 연속시간 동적 그래프 또는 다중성 인식 그래프—는 현재 GNN 연구에서 부족한가?
• RQ4 동적 노드 및 간선 속성, 삭제, 복잡한 구조를 가진 그래프에 대해 GNN을 설계할 때 주요 과제는 무엇인가?
• RQ5 이질적이고 동적 그래프와 같은 특정 조합의 그래프 특성에 대해 GNN 커버리지의 식별 가능한 격차가 있는가?

주요 결과

• 연속시간 동적 그래프에 대한 GNN 모델이 현저히 부족하며, 이 범주에서 초그래프에 대해 유일한 모델 한 개만 확인되었다.
• 동적 노드 및 간선 속성, 노드 삭제를 모두 처리할 수 있는 GNN 모델은 극히 드물며, 단 한 개의 모델(MGH)만 이 모든 동역학을 지원한다.
• 이산시간 그래프를 위한 대부분의 GNN 모델은 각 스크래치에 정적 GNN을 적용하고 RNN으로 통합하는 방식을 사용하여 계산 비용이 매우 높은 아키텍처를 초래한다.
• 이산 시간에서 노드 이질적 그래프에 대한 모델 부재는 완전히 이질적 그래프를 위한 더 일반적인 모델 존재로 인해 발생할 가능성이 높아, 설계상의 중복 또는 겹침을 시사한다.
• 연속시간 그래프에서 확률적 점프 과정을 모델링하는 복잡성이 모델 부족의 원인 중 하나이며, 특히 실수값 속성 동역학을 다룰 경우 더욱 심각하다.
• 간선의 다중성 처리를 위한 GNN는 제한되어 있으며, 표준 인접 행렬이 중복 간선을 표현할 수 없어 근본적인 기술적 과제가 존재한다.