[논문 리뷰] Subgraph Neural Networks

Emily Alsentzer, Samuel G. Finlayson외 2명|arXiv (Cornell University)|2020. 06. 18.

Advanced Graph Neural Networks참고 문헌 84인용 수 44

한 줄 요약

SubGNN은 세 가지 속성-인식 채널(위치, 이웃, 구조)과 앵커-패치 라우팅이 포함된 새로운 서브그래프 수준 메시지 전달 프레임워크를 통해 분리된 서브그래프 표현을 학습하고, 합성 및 실제 데이터셋에서 강력한 서브그래프 분류를 달성한다.

ABSTRACT

Deep learning methods for graphs achieve remarkable performance on many node-level and graph-level prediction tasks. However, despite the proliferation of the methods and their success, prevailing Graph Neural Networks (GNNs) neglect subgraphs, rendering subgraph prediction tasks challenging to tackle in many impactful applications. Further, subgraph prediction tasks present several unique challenges: subgraphs can have non-trivial internal topology, but also carry a notion of position and external connectivity information relative to the underlying graph in which they exist. Here, we introduce SubGNN, a subgraph neural network to learn disentangled subgraph representations. We propose a novel subgraph routing mechanism that propagates neural messages between the subgraph's components and randomly sampled anchor patches from the underlying graph, yielding highly accurate subgraph representations. SubGNN specifies three channels, each designed to capture a distinct aspect of subgraph topology, and we provide empirical evidence that the channels encode their intended properties. We design a series of new synthetic and real-world subgraph datasets. Empirical results for subgraph classification on eight datasets show that SubGNN achieves considerable performance gains, outperforming strong baseline methods, including node-level and graph-level GNNs, by 19.8% over the strongest baseline. SubGNN performs exceptionally well on challenging biomedical datasets where subgraphs have complex topology and even comprise multiple disconnected components.

연구 동기 및 목표

• 서브그래프 예측을 노드 수준 또는 그래프 수준 예측과는 별개의 작업으로 제시한다.
• 위치, 이웃, 구조를 포착하는 서브그래프 중심의 메시지 전달 아키텍처를 제안한다.
• 기저 그래프 전반의 정보를 집계하기 위한 앵커-패치 라우팅을 도입한다.
• 합성 및 실제 데이터의 서브그래프 분류 데이터셋에서 실증적 향상을 보여준다.

제안 방법

• 여러 구성요소와 라벨이 있을 수 있는 서브그래프 S를 정의한다.
• 서브그래프 구성요소에서 작동하는 서브그래프 수준 메시지 전달 전략 E_S를 도입한다.
• 전용 앵커-패치 샘플링, 인코딩 및 유사도 라우팅을 갖춘 세 가지 채널(위치, 이웃, 구조)을 도입한다.
• 채널별로 속성 의식 출력 z_x,c를 계산하고 이를 최종 서브그래프 임베딩 z_S로 합산한다.
• 고정된 앵커 패치와 선택적 유사도 사전 계산을 갖춘 계산 효율적인 아키텍처를 제공한다.
• 서브그래프를 포함하는 비지도, 준지도 또는 기타 예측 작업으로의 확장 가능성을 시연한다.

실험 결과

연구 질문

• RQ1 서브그래프를 어떻게 표현하여 내부 토폴로지, 경계 구조 및 호스트 그래프 내의 상대 위치를 포착할 수 있는가?
• RQ2 채널별 라우팅을 갖춘 서브그래프 중심 GNN이 서브그래프 분류 작업에서 노드 수준 또는 그래프 수준 베이스라인보다 더 나은 성능을 보일 수 있는가?
• RQ3 앵커 패치와 속성 의식 라우팅이 정확한 예측을 위해 서브그래프의 속성(위치, 이웃, 구조)을 효과적으로 분리하는가?
• RQ4 서브그래프 토폴로지를 위한 합성 벤치마크와 실제 생물의학 및 사회 데이터셋에서 SubGNN 변형은 어떻게 수행하는가?

주요 결과

방법	밀도	컷 비율	코어성	구성요소
SubGNN (Ours)	0.919 \pm 0.016	0.629 \pm 0.039	0.659 \pm 0.092	0.958 \pm 0.098

• SubGNN은 합성 데이터셋에서 베이스라인보다 평균 77.4% 우수하고, 실제 데이터셋에서는 평균 125.2% 우수하다.
• SubGNN은 전체 서브그래프 분류 작업에서 가장 강력한 베이스라인보다 19.8% 향상시킨다.
• 채널 제거 실험은 각 채널의 성능이 의도된 귀납적 편향과 일치함을 보여준다(예: 구조 채널은 경계-구조 작업에서 우수하고, 위치 채널은 내부 구성 요소 관계에서 우수).
• 서브그래프가 복잡한 토폴로지나 다중 구성요소를 가진 도전적 생물의학 데이터셋에서도 SubGNN이 강력한 결과를 달성한다.