[논문 리뷰] Directed Graph Convolutional Network

Zekun Tong, Yuxuan Liang외 3명|arXiv (Cornell University)|2020. 04. 29.

Advanced Graph Neural Networks참고 문헌 35인용 수 65

한 줄 요약

DGCN은 방향 그래프에 대해 1차 및 2차 인접성을 활용하여 스펙트럴 기반 GCN을 확장하고, 방향성 있는 데이터셋에서 반지도 학습 노드 분류를 개선한다.

ABSTRACT

Graph Convolutional Networks (GCNs) have been widely used due to their outstanding performance in processing graph-structured data. However, the undirected graphs limit their application scope. In this paper, we extend spectral-based graph convolution to directed graphs by using first- and second-order proximity, which can not only retain the connection properties of the directed graph, but also expand the receptive field of the convolution operation. A new GCN model, called DGCN, is then designed to learn representations on the directed graph, leveraging both the first- and second-order proximity information. We empirically show the fact that GCNs working only with DGCNs can encode more useful information from graph and help achieve better performance when generalized to other models. Moreover, extensive experiments on citation networks and co-purchase datasets demonstrate the superiority of our model against the state-of-the-art methods.

연구 동기 및 목표

• 방향성을 잃지 않으면서 방향성 그래프에 대해 스펙트럴 기반 그래프 합성을 확장한다.
• 수용영역을 확장하기 위해 1차 및 2차 인접성(proximity)을 도입한다.
• 여러 인접성 기반 컨볼루션을 통합하는 융합 메커니즘을 개발한다.
• 실세계 방향형 데이터셋에서 효율성과 효과를 입증한다.
• 시간/공간 복잡도 및 다른 GNN 모델로의 일반화에 대한 통찰을 제공한다.

제안 방법

• 방향 그래프에 대한 1차 및 2차 인접성(proximity)을 정의한다.
• 세 가지 인접성 기반 인접성 표현을 구성한다: 1차(A_F), 차수의 2차 인접성(A_S_in), 그리고 차수의 2차 인접성(A_S_out).
• 공유 가중치를 갖는 각 인접성 행렬에 대해 스펙트럴 스타일의 그래프 합성을 적용한다.
• 세 가지 전파 신호를 연결 기반 융합 함수 Gamma로 융합한다(예: Z = Concat(Z_F, alpha Z_S_in, beta Z_S_out)).
• 최종 소프트맥스가 있는 두 층 네트워크를 사용하여 반지도 학습 노드 분류를 수행한다.
• 레이블된 노드에서 교차 엔트로피로 학습을 제공하고 실험을 위한 전체 배치 계산을 수행한다.

실험 결과

연구 질문

• RQ1 그래프를 대칭화하지 않고도 방향 그래프의 스펙트럴 컨볼루션을 효과적으로 구현할 수 있는가?
• RQ2 1차 및 2차 인접성은 방향 그래프에서 성능 향상을 위한 보완 정보를 포착하는가?
• RQ3 여러 인접성 기반 컨볼루션의 융합이 단일 인접성 사용보다 더 나은 표현을 생성하는가?
• RQ4 방향성/인용 네트워크 및 공동구매 네트워크에서 DGCN이 최신 스펙트럴- 및 공간 기반 GNN과 어떻게 비교되는가?

주요 결과

모델	Cora-Full	Cora-ML	CiteSeer	DBLP	PubMed	Amazon-Photo	Amazon-Computer
ChebNet	58.0 ±0.5	79.2 ±1.4	59.7 ±4.0	64.0 ±2.8	74.6 ±2.5	82.5 ±2.4	72.9 ±3.0
GCN	59.1 ±0.7	81.7 ±1.2	64.7 ±2.3	71.5 ±2.7	76.8 ±2.2	90.4 ±1.5	81.9 ±1.9
SGC	61.2 ±0.6	80.3 ±1.1	61.4 ±3.4	69.2 ±2.8	75.8 ±2.8	89.4 ±1.4	80.2 ±1.2
GraphSage	58.1 ±0.7	80.2 ±1.6	62.8 ±2.1	68.1 ±2.5	75.2 ±3.2	89.8 ±1.9	80.4 ±2.5
GAT	60.8 ±0.6	81.5 ±1.0	63.7 ±2.0	71.8 ±2.6	76.5 ±2.3	90.0 ±1.3	81.2 ±2.5
DGCN	60.8 ±0.6	82.0 ±1.4	65.4 ±2.3	72.5 ±2.5	76.9 ±1.9	90.8 ±1.1	82.0 ±1.7

• DGCN은 일곱 개 데이터셋에서 경쟁력 있는 정확도를 달성하며, 종종 ChebNet, GCN, SGC, GraphSage, GAT와 같은 베이스라인을 능가한다.
• 1차 및 2차 인접성을 모두 사용하는(DGCN-두 가지를 함께) 경우 일반적으로 1차 인접성만 사용하는 경우보다 성능이 향상된다.
• DGCN은 방향 그래프 데이터셋(Cora-Full, Cora-ML, CiteSeer, Amazon-Photo, Amazon-Computers)에서 강력한 성능을 보이며 비방향 데이터셋(DBLP, PubMed)에서도 견고한 성능을 유지한다.
• 융합 메커니즘이 있는 2층 DGCN은 주목할 만한 이점을 제공하고 Baselines와 비교하여 특징 및 라벨 효율성을 입증한다.
• 이 방법은 2차 인접성을 통해 방향 정보를 보존하면서 수용영역을 확장하되 매개변수 증가를 과도하게 하지 않는다.