[논문 리뷰] A Survey on Graph Classification and Link Prediction based on GNN

Xingyu Liu, Juan Chen외 1명|arXiv (Cornell University)|2023. 07. 03.

Advanced Graph Neural Networks인용 수 7

한 줄 요약

이 종합 검토는 그래프 분류 및 링크 예측을 위한 그래프 신경망(GNN)에 대해 GCN, GAT 및 오토에인코더 기반 모델에 중점을 두어 포괄적인 리뷰를 제공한다. 그래프 컨볼루션 및 풀링 연산자가 비유클리드 데이터에서 효과적인 학습을 가능하게 하여, Cora 및 CiteSeer와 같은 인용 네트워크에서 최신 기술 성능을 달성하며, F1 점수는 최대 0.7508, MCC는 0.7273에 이를 수 있다. GNN-INCM를 사용하여.

ABSTRACT

Traditional convolutional neural networks are limited to handling Euclidean space data, overlooking the vast realm of real-life scenarios represented as graph data, including transportation networks, social networks, and reference networks. The pivotal step in transferring convolutional neural networks to graph data analysis and processing lies in the construction of graph convolutional operators and graph pooling operators. This comprehensive review article delves into the world of graph convolutional neural networks. Firstly, it elaborates on the fundamentals of graph convolutional neural networks. Subsequently, it elucidates the graph neural network models based on attention mechanisms and autoencoders, summarizing their application in node classification, graph classification, and link prediction along with the associated datasets.

연구 동기 및 목표

• 그래프 분류 및 링크 예측 작업을 위한 그래프 컨볼루션 신경망에 대한 체계적인 리뷰를 제공하는 것.
• 딥러닝을 비유클리드 그래프 데이터에 적응시키는 데 있어 그래프 컨볼루션 및 풀링 연산자의 역할을 분석하는 것.
• 기본 인용 네트워크 데이터셋에서 어텐션 기반 및 오토에인코더 기반 GNN 모델의 성능을 평가하는 것.
• 노드 분류 정확도 측면에서 기존 방법인 DeepWalk 및 Planetoid에 비해 GNN의 우수성을 부각하는 것.
• 실제 데이터셋에 대한 실험 결과를 제시하여 그래프 분류 및 링크 예측 모두에서 최신 기술 성능을 입증하는 것.

제안 방법

• 논문은 GNN의 기본 구성 요소로 그래프 컨볼루션 연산자와 그래프 풀링 연산자를 검토하여 비유클리드 데이터 처리를 가능하게 한다.
• GAT에서의 어텐션 메커니즘을 분석하여 이웃 노드의 특징을 동적으로 가중치를 두어 노드 표현 학습을 향상시킨다.
• 오토에인코더 기반 GNN은 GC-MC 및 ARGAs를 포함하여 행렬 완성 및 그래프 임베딩을 링크 예측 작업으로 재정의한다.
• 그래프 자기에인코딩 프레임워크를 사용하며, 인코더에서 그래프 컨볼루션과 디코더에서 이차형 함수를 활용하여 미분 가능한 정보 전달을 구현한다.
• GNN-INCM 모델은 그래프 소스 블록을 사용하고 노드 및 이웃 표현을 연결하여 분류 성능을 향상시킨다.
• 데이터 증강 전략을 적용하여 합성 노드를 도입하여 클래스 분포를 균형 잡고, 편향 없는 GNN 분류기 학습을 가능하게 한다.

실험 결과

연구 질문

• RQ1 그래프 컨볼루션 연산자는 비유클리드 그래프 데이터에서 효과적인 표현 학습을 어떻게 가능하게 하는가?
• RQ2 GAT의 어텐션 메커니즘은 노드 분류 작업에서 표준 GCN에 비해 어떤 이점을 제공하는가?
• RQ3 오토에인코더 기반 GNN은 링크 예측 및 행렬 완성 작업에서 성능을 어떻게 향상시키는가?
• RQ4 데이터 증강 및 클래스 균형 조정은 불균형한 인용 네트워크에서 GNN 분류기 성능에 어떤 영향을 미치는가?
• RQ5 F1 및 MCC 점수 측면에서 GNN 기반 모델은 Planetoid 및 DeepWalk과 같은 전통적 방법에 비해 어떻게 비교되는가?

주요 결과

• GNN-INCM 모델은 Cora 데이터셋에서 F1 점수 0.7508 ± 0.0045와 MCC 0.7273 ± 0.0051을 기록하여 GCN 및 GAT를 능가했다.
• CiteSeer 데이터셋에서 GNN-INCM는 F1 점수 0.6490 ± 0.0048과 MCC 0.6274 ± 0.0036를 기록하여 뛰어난 성능을 보였다.
• GAT는 Cora에서 F1 점수 0.7134 ± 0.072와 MCC 0.6379 ± 0.0061를 기록하여 기준 모델 대비 뛰어난 성능을 보였다.
• DR-GCN 모델은 Cora에서 F1 점수 0.7247 ± 0.0057과 MCC 0.6588 ± 0.0065를 기록하여 잔차 연결을 통해 효과적인 그래프 학습을 수행했다.
• 인간 궤적 예측을 위한 링크 예측에서 Social-STGCNN은 ETH 데이터셋에서 ADE 0.64와 FDE 1.11을 기록하여 선형 모델 및 S-LSTM 기준 모델를 능가했다.
• 합성 노드 증강의 사용은 클래스 분포를 균형 잡고 편향 없는 GNN 분류기 학습을 가능하게 하여 불균형 데이터셋에서 일반화 성능을 향상시켰다.