[논문 리뷰] Scalable Graph Neural Network-based framework for identifying critical nodes and links in Complex Networks

Sai Munikoti, Laya Das외 1명|arXiv (Cornell University)|2020. 12. 26.

Complex Network Analysis Techniques참고 문헌 46인용 수 68

한 줄 요약

이 논문은 소규모 노드/링크 서브셋에서 임베딩을 학습하여 대규모 복잡한 네트워크 내에서 핵심 노드와 링크를 효율적으로 식별하는 인덕티브 그래프 신경망(GNN) 기반 프레임워크인 ILGR을 제안한다. 이 모델은 90퍼센트 이상의 Top-5% 식별 정확도를 달성하며 기존 반복적 방법보다 수개의 주기 수준 빠르게 동작하여 합성 및 실세계 네트워크 전반에 걸쳐 확장 가능하고 일반적인 강건성 분석을 가능하게 한다.

ABSTRACT

Identifying critical nodes and links in graphs is a crucial task. These nodes/links typically represent critical elements/communication links that play a key role in a system's performance. However, a majority of the methods available in the literature on the identification of critical nodes/links are based on an iterative approach that explores each node/link of a graph at a time, repeating for all nodes/links in the graph. Such methods suffer from high computational complexity and the resulting analysis is also network-specific. To overcome these challenges, this article proposes a scalable and generic graph neural network (GNN) based framework for identifying critical nodes/links in large complex networks. The proposed framework defines a GNN based model that learns the node/link criticality score on a small representative subset of nodes/links. An appropriately trained model can be employed to predict the scores of unseen nodes/links in large graphs and consequently identify the most critical ones. The scalability of the framework is demonstrated through prediction of nodes/links scores in large scale synthetic and real-world networks. The proposed approach is fairly accurate in approximating the criticality scores and offers a significant computational advantage over conventional approaches.

연구 동기 및 목표

• 대규모 그래프에서 핵심 노드/링크를 식별하기 위한 기존 반복적 방법의 높은 계산 복잡도를 해결한다.
• 다양한 네트워크 유형과 강건성 메트릭에 일반화 가능한 유연하고 확장 가능한 프레임워크를 개발한다.
• 학습된 GNN 모델을 사용해 미리 보지 않은 노드/링크에 대한 핵심성 점수를 신속하게 예측할 수 있도록 한다.
• 실행 시간을 단축하면서도 실세계 및 합성 네트워크에서 핵심 노드/링크 식별의 높은 정확도를 유지한다.
• 구조적 변화가 발생했을 때 재학습 없이도 효율적인 재예측이 가능하게 하여 동적 네트워크 분석을 지원한다.

제안 방법

• 소규모 대표 서브셋의 노드/링크를 기반으로 합성 그래프에서 엔드 투 엔드 GNN 모델을 훈련하여 국소 서브그래프 이웃의 임베딩 표현을 학습한다.
• 노드/링크 임베딩에 회귀 헤드를 적용하여 효과적 그래프 저항(Rg)과 가중 스펙트럼(Ws)이라는 두 가지 강건성 메트릭을 기반으로 핵심성 점수를 예측한다.
• 큰 그래프 내에서 볼 수 없는 노드/링크에 대한 인덕티브 전이를 가능하게 하기 위해 소규모 대표 서브셋에서 모델을 훈련한다.
• 링크의 경우, 연결된 두 노드의 임베딩을 결합하여 학습 가능한 집약 레이어를 사용해 링크 임베딩을 생성한다.
• 이중 단계 프레임워크를 활용한다: (1) 합성 데이터에서 사전 훈련, (2) 최소 지연 시간으로 미리 보지 않은 그래프에 대한 온라인 추론.
• 재학습 없이도 다양한 네트워크 유형과 크기에 걸쳐 일반화할 수 있도록 GNN의 인덕티브 바이어스를 활용한다.

실험 결과

연구 질문

• RQ1 소규모 훈련 데이터로도 다양한 네트워크 유형에서 핵심 노드/링크를 높은 정확도로 예측할 수 있는 GNN 기반 인덕티브 모델이 가능한가?
• RQ2 기존 반복적 방법이 한 개의 노드/링크씩 핵심성 점수를 계산하는 데 비해, 제안된 GNN 프레임워크는 속도와 정확도 측면에서 어떻게 비교되는가?
• RQ3 훈련 중에 볼 수 없었던 실세계 네트워크에 대해 모델의 일반화 능력은 어느 정도인가?
• RQ4 노드 쌍으로부터 유도된 링크 수준의 임베딩을 통합함으로써 노드 전용 예측 대비 식별 정확도가 향상되는가?
• RQ5 그래프 크기와 복잡도가 증가함에 따라 모델 성능은 어떻게 변화하는가?

주요 결과

• PL 합성 그래프에서 ILGR 프레임워크는 Rg에 대해 91%, Ws에 대해 94%의 Top-5% 식별 정확도를 달성했으며, PLC 합성 그래프에서는 Rg에 대해 97.5%, Ws에 대해 96.1%를 기록했다.
• 실세계 네트워크에서는 높은 정확도를 유지했다: 생물-야생효모에서 Rg-plc는 92.6%, Ws-plc는 95.2%; 미국 전력망에서 Rg-plc는 93.1%, Ws-plc는 94.6%; 위키-투표에서 Rg-plc는 89.6%, Ws-plc는 92.5%였다.
• 위키-투표와 같은 대규모 그래프에서 기존 방법의 64,000초 이상이 소요되던 실행 시간을 25초 이내로 단축시켜 수개의 주기 수준의 속도 향상을 달성했다.
• 정밀 조정 없이도 실세계 네트워크에 효과적으로 일반화되어 강력한 인덕티브 바이어스와 이식 가능성을 입증했다.
• 노드 예측보다 링크 예측 성능이 略로 높은 편이었는데, 이는 쌍으로 구성된 노드 표현에서 유도된 richer 링크 임베딩 덕분이었다.
• 모델은 계산적으로 효율적이고 확장 가능하며, 기존 방법 대비 훨씬 낮은 훈련 시간을 기록했고, 최대 50,000개의 노드 및 링크를 가진 그래프에서도 추론 시간이 낮게 유지되었다.