[논문 리뷰] Spectral-based Graph Convolutional Network for Directed Graphs

Yi Ma, Jianye Hao외 4명|arXiv (Cornell University)|2019. 07. 21.

Advanced Graph Neural Networks참고 문헌 22인용 수 39

한 줄 요약

이 논문은 directed Laplacians 및 Chebyshev 다항 근사화를 사용하여 방향 그래프에 적합한 스펙트럴 기반 GCN을 도입하여, 기반선과 비교하여 방향성 데이터셋에서 반지도학습 노드 분류에서 우수한 성능을 달성한다.

ABSTRACT

Graph convolutional networks(GCNs) have become the most popular approaches for graph data in these days because of their powerful ability to extract features from graph. GCNs approaches are divided into two categories, spectral-based and spatial-based. As the earliest convolutional networks for graph data, spectral-based GCNs have achieved impressive results in many graph related analytics tasks. However, spectral-based models cannot directly work on directed graphs. In this paper, we propose an improved spectral-based GCN for the directed graph by leveraging redefined Laplacians to improve its propagation model. Our approach can work directly on directed graph data in semi-supervised nodes classification tasks. Experiments on a number of directed graph datasets demonstrate that our approach outperforms the state-of-the-art methods.

연구 동기 및 목표

• 스펙트럴 기반 GCN이 무작위로 무향 그래프으로의 완화 없이도 방향 그래프에서 직접 작동하도록 동기를 부여하고 가능하게 한다.
• 방향 그래프에 대한 그래프 라플라시안 재정의 및 전파 모델 도출.
• Chebyshev 다항 근사를 사용한 방향 그래프 컨볼루션 계층 개발.
• 여러 방향 그래프 데이터셋에서 평가하고 최첨단 기준선과 비교.
• 실용적 한계 탐색 및 향후 연구를 위한 방향 제시.

제안 방법

• 정적 분포와 전이 행렬을 사용하여 방향 그래프 라플라시안을 정의한다.
• 방향 그래프에서의 스펙트럼 필터를 방향 라플라시안 고유값의 Chebyshev 다항으로 근사한다.
• 방향 GCN 전파 모델(DGCN)을 대칭 정규화 형태로 도출(식 15).
• ReLU 활성화 및 소프트맥스 출력으로 2층 및 3층 DGCN 아키텍처를 구성한다.
• 레이블 노드에서 교차 엔트로피 손실로 학습하고, 과적합을 줄이기 위해 드롭아웃을 사용한다.
• PyTorch 및 PyTorch Geometric를 사용하여 구현하고 평가한다.

실험 결과

연구 질문

• RQ1 스펙트럴 기반 GCN이 무향 그래프로의 완화를 거치지 않고 방향 그래프에서 직접 작동하도록 적응할 수 있는가?
• RQ2 방향 라플라시안을 사용하는 것이 방향 네트워크에서 특징 추출 및 분류 정확도를 향상시키는가?
• RQ3 2층 및 3층 DGCN 아키텍처가 다양한 방향 그래프 데이터셋에서 반지도 설정으로 어떤 성능을 보이는가?
• RQ4 DGCN은 방향 그래프에서 최첨단 스펙트럴 기반 및 공간 기반 GCN 방법과 어떻게 비교되는가?

주요 결과

• DGCN은 테스트된 모든 4개 방향 데이터셋(Blogs, Wikipedia, Email, Cora-cite)에서 기준 방법을 능가한다.
• Blogs에서 DGCN은 97.09% 정확도와 0.7% CI를 달성하여 타 방법보다 높다.
• Wikipedia에서 DGCN은 64.83% 정확도와 0.4% CI를 달성하여 타 방법보다 높다.
• Email에서 DGCN은 57.63% 정확도와 0.4% CI를 달성하여 타 방법보다 높다.
• Cora-cite에서 DGCN은 38.78% 정확도와 0.2% CI를 달성하여 타 방법보다 높다.
• 저자들은 방향 라플라시안이 방향 연결 구조를 더 효과적으로 포착하기 때문이라고 설명한다.