[논문 리뷰] 2-hop Neighbor Class Similarity (2NCS): A graph structural metric indicative of graph neural network performance

Andrea Cavallo, Claas Grohnfeldt외 3명|arXiv (Cornell University)|2022. 12. 26.

Advanced Graph Neural Networks인용 수 5

한 줄 요약

이 논문은 그래프의 위상이 그래프 신경망(GNN) 성능을 얼마나 잘 지원하는지 분석하여 두 번째 이웃의 레이블 분포를 분석함으로써 GNN 성능과의 상관관계를 더 강하게 유지하는 새로운 그래프 구조적 지표인 2-hop Neighbor Class Similarity(2NCS)를 소개한다. 동질성 또는 CCNS와 달리 2NCS는 GCN 스타일의 메시지 전파에서 두 번째 순서 이웃 정보의 이론적 영향을 포착하여 실제 및 합성 그래프 전반에서 GCN 및 GAT 정확도와 더 강하고 일관된 상관관계를 보인다.

ABSTRACT

Graph Neural Networks (GNNs) achieve state-of-the-art performance on graph-structured data across numerous domains. Their underlying ability to represent nodes as summaries of their vicinities has proven effective for homophilous graphs in particular, in which same-type nodes tend to connect. On heterophilous graphs, in which different-type nodes are likely connected, GNNs perform less consistently, as neighborhood information might be less representative or even misleading. On the other hand, GNN performance is not inferior on all heterophilous graphs, and there is a lack of understanding of what other graph properties affect GNN performance. In this work, we highlight the limitations of the widely used homophily ratio and the recent Cross-Class Neighborhood Similarity (CCNS) metric in estimating GNN performance. To overcome these limitations, we introduce 2-hop Neighbor Class Similarity (2NCS), a new quantitative graph structural property that correlates with GNN performance more strongly and consistently than alternative metrics. 2NCS considers two-hop neighborhoods as a theoretically derived consequence of the two-step label propagation process governing GCN's training-inference process. Experiments on one synthetic and eight real-world graph datasets confirm consistent improvements over existing metrics in estimating the accuracy of GCN- and GAT-based architectures on the node classification task.

연구 동기 및 목표

• 기존 지표인 동질성 및 CCNS보다 더 나은 GNN 성능 예측을 위한 그래프 구조적 성질을 규명하는 것.
• 이분성 그래프에서 GNN 성능의 일관성 부족 문제를 두 번째 순서 이웃 정보의 역할 분석을 통해 해결하는 것.
• 노드의 두 번째 이웃 내 레이블 분포를 기반으로 한 이론적으로 타당하고 정량화 가능한 지표를 유도하는 것.
• 2NCS가 다양한 그래프 데이터셋에서 다른 지표들과 비교해 GNN 정확도와 더 강한 상관관계를 보임을 검증하는 것.

제안 방법

• 2NCS를 각 노드의 2-hop 이웃 내 동일 클래스 노드 비율의 평균으로 정의하며, 2-hop 집합의 크기로 정규화한다.
• 단순화된 1층 GCN 모델의 이론적 분석을 통해 노드 분류 성능이 2-hop 이웃 내 레이블 분포에 의존함을 밝혀낸다.
• GCN에서 노드 표현이 이웃의 이웃에 의해 영향을 받는다는 점을 고려해 2-hop 이웃을 레이어 전파 과정의 대체 지표로 사용한다.
• 노드 수준 및 그래프 수준에서 2NCS를 계산하여 GNN 성능 예측 능력을 평가한다.
• 8개의 실생활 그래프와 1개의 합성 그래프에서 GCN 및 GAT 정확도와의 피어슨 상관계수를 사용해 2NCS, 동질성 비율 $h$, CCNS를 비교한다.
• MLP에 대한 GNN 성능 향상과의 관계를 맺기 위해 각 클래스별 분석을 수행한다.

실험 결과

연구 질문

• RQ1 다양한 그래프 유형에서 2NCS는 동질성 및 CCNS에 비해 GNN 성능 예측에 얼마나 더 효과적인가?
• RQ2 두 번째 이웃 내 레이블 분포가 GNN 노드 분류 정확도에 얼마나 큰 영향을 미치는가?
• RQ3 2NCS는 왜 일부 이분성 그래프에서는 GNN이 MLP를 초월하지만 다른 그래프에서는 그렇지 않은지를 설명할 수 있는가?
• RQ4 노드 수준 및 그래프 수준에서 2NCS는 기존 지표보다 GNN 성능과 더 강한 상관관계를 가지는가?
• RQ5 각 클래스의 2NCS 값은 각 클래스의 GNN 성능 향상도와 어떻게 일치하는가?

주요 결과

• 8개의 실생활 그래프에서 2NCS는 동질성 비율 $h$ 또는 CCNS보다 GCN 및 GAT 정확도와 유의미하게 더 강한 피어슨 상관관계를 보였다.
• Chameleon 데이터셋에서 2NCS는 GCN 정확도와 상관계수 $r = 0.90$을 기록했으며, $h$의 $r = 0.68$ 및 CCNS의 $r = 0.75$보다 높았다.
• Squirrel에서 2NCS는 GCN 정확도와 $r = 0.88$의 상관계수를 기록했으며, $h$($r = 0.65$) 및 CCNS($r = 0.72$)를 모두 초월했다.
• Chameleon에서 높은 각 클래스별 2NCS(예: 0.40–0.43)를 가진 클래스는 MLP 대비 GNN 성능 향상이 뚜렷했고, Squirrel에서 낮은 2NCS(예: 0.15)를 가진 클래스는 MLP가 GNN을 압도했다.
• 2NCS 유도 과정과 유사한 단순화된 GCN 모델은 표준 GCN과 유사한 정확도를 달성하여 이론적 기반을 검증했다.
• 예시 그래프에서 2NCS는 노드 0이 주로 동일 클래스인 2-hop 이웃을 가졌기에 분류 가능하다고 정확히 식별했으며, 이는 $h$ 및 CCNS가 놓친 패턴이었다.