[논문 리뷰] Geometric Graph Convolutional Neural Networks.

Przemysław Spurek, Tomasz Danel외 5명|arXiv (Cornell University)|2019. 09. 11.

Advanced Graph Neural Networks참고 문헌 10인용 수 9

한 줄 요약

이 논문은 공간적 그래프 컨볼루션 네트워크(SGCN)를 제안한다. SGCN는 GCN 기반의 아키텍처로, 노드의 공간적 위치를 통합하여 그래프 내 기하학적 순서를 모델링하며, GCN과 CNN을 일반화한다. 공간적 특징과 데이터 증강 기법을 활용함으로써, 이미지 분류 및 분자 성질 예측 작업에서 최신 기술(SOTA) 수준의 성능을 달성한다.

ABSTRACT

Graph Convolutional Networks (GCNs) have recently become the primary choice for learning from graph-structured data, superseding hash fingerprints in representing chemical compounds. However, GCNs lack the ability to take into account the ordering of node neighbors, even when there is a geometric interpretation of the graph vertices that provides an order based on their spatial positions. To remedy this issue, we propose Spatial Graph Convolutional Network (SGCN) which uses spatial features to efficiently learn from graphs that can be naturally located in space. Our contribution is threefold: we propose a GCN-inspired architecture which (i) leverages node positions, (ii) is a proper generalization of both GCNs and Convolutional Neural Networks (CNNs), (iii) benefits from augmentation which further improves the performance and assures invariance with respect to the desired properties. Empirically, SGCN outperforms state-of-the-art graph-based methods on image classification and chemical tasks.

연구 동기 및 목표

• 표준 GCN이 이웃 노드의 순서를 무시하는 한계를 해결하기 위해, 공간 기하학적 구조가 노드의 자연스러운 순서를 암시할 경우에도 이를 간과한다는 점을 다루기 위해.
• 노드 위치에서 유래하는 기하정보를 메시지 전달 메커니즘에 통합하는 그래프 신경망 아키텍처를 개발하기 위해.
• 공간 인식 메시지 전달 프레임워크를 통해 GCN과 CNN의 인덕티브 바이어스를 통합함으로써 GCN과 CNN을 일반화하기 위해.
• 공간 그래프 구조에 맞는 데이터 증강 기법을 활용해 모델의 강건성과 불변성을 향상시키기 위해.

제안 방법

• 노드 간 상대적 위치를 주목도 또는 가중치 요소로 사용하여, 집합 과정 중에 공간 인식 메시지 전달 메커니즘을 도입한다.
• 노드 특징과 기하학적 특징(예: 3D 좌표)을 결합하여 더 풍부한 노드 표현을 생성하는 그래프 컨볼루션 레이어를 설계한다.
• 공간적 근접성을 존중하는 학습 가능한 집합 함수를 적용하여, 기하학적 배열에 따라 이웃 노드를 구분할 수 있도록 한다.
• 학습 중에 기하학적 데이터 증강(예: 회전, 이동)을 적용하여 공간 변환에 대한 불변성을 향상시킨다.
• 순열 불변성을 유지하면서도 공간적 구조를 존중하는 대칭적 메시지 전달 방식을 사용한다.
• 공간적 특징을 무시할 경우 GCN으로 간소화되고, 고정된 정규 격자에 적용될 경우 CNN으로 간소화되는 방식으로 GCN과 CNN을 일반화한다.

실험 결과

연구 질문

• RQ1 그래프 구조에 내재된 기하학적 구조를 지닌 데이터에 대해, GCN에 공간적 노드 위치를 통합함으로써 성능 향상을 이룰 수 있는가?
• RQ2 제안된 SGCN 아키텍처는 어떻게 통합된 프레임워크에서 GCN과 CNN을 일반화하는가?
• RQ3 기하학적 데이터 증강 기법이 그래프 학습 작업에서 강건성과 불변성 향상에 얼마나 기여하는가?
• RQ4 SGCN은 이미지 및 분자 성질 예측 벤치마크에서 기존 최신 기술(SOTA) 기반 그래프 모델을 초월하는가?

주요 결과

• SGCN는 그래프로 구성된 이미지의 기하학적 구조를 활용하여 이미지 분류 벤치마크에서 최신 기술(SOTA) 성능을 달성한다.
• 분자 성질 예측 작업에서는 기존 그래프 기반 모델을 능가하며, 개선된 일반화 능력과 불변성을 입증한다.
• 공간적 특징의 통합은 연결성 외에도 기하학적 맥락을 포착하는 더 표현력 있는 노드 표현을 가능하게 한다.
• 공간 변환 기반 데이터 증강은 다양한 그래프 구성에서 모델의 강건성과 일반화 능력을 크게 향상시킨다.
• SGCN는 공간적 특징을 비활성화하면 GCN으로 축소되고, 정규 격자에 적용될 경우 CNN으로 축소되어 GCN과 CNN을 일반화한다.
• 모델는 순열 불변성을 유지하면서도 공간 순서에 민감하여 기하학적 구조를 효과적으로 활용할 수 있다.