[논문 리뷰] Topology Adaptive Graph Convolutional Networks

Jian Du, Shanghang Zhang외 3명|arXiv (Cornell University)|2017. 10. 28.

Advanced Graph Neural Networks참고 문헌 19인용 수 231

한 줄 요약

TAGCN은 인접 행렬의 다항식으로 구성된 K-로컬 적응 필터를 사용하여 정점 도메인 그래프 컨볼루션을 도입하고 스펙트럼 기반 근사 없이 우수한 반지도 학습 노드 분류를 달성합니다.

ABSTRACT

Spectral graph convolutional neural networks (CNNs) require approximation to the convolution to alleviate the computational complexity, resulting in performance loss. This paper proposes the topology adaptive graph convolutional network (TAGCN), a novel graph convolutional network defined in the vertex domain. We provide a systematic way to design a set of fixed-size learnable filters to perform convolutions on graphs. The topologies of these filters are adaptive to the topology of the graph when they scan the graph to perform convolution. The TAGCN not only inherits the properties of convolutions in CNN for grid-structured data, but it is also consistent with convolution as defined in graph signal processing. Since no approximation to the convolution is needed, TAGCN exhibits better performance than existing spectral CNNs on a number of data sets and is also computationally simpler than other recent methods.

연구 동기 및 목표

• 그래프 컨볼루션을 그리드 구조 데이터를 넘어서 임의의 그래프에서 가능하도록 동기를 부여합니다.
• 다양한 크기의 인접 행렬 다항식 필터를 사용하는 정점 도메인 그래프 컨볼루션 연산자를 제안합니다.
• 다중 크기 필터가 깊은 계층에서의 정보 손실을 완화하고 표현 능력을 향상시키는지 보여줍니다.
• 스펙트럼 기반 근사 없이 계산 효율성과 부재를 입증합니다.
• 표준 그래프 데이터세트(Cora, Citeseer, Pubmed)에서 TAGCN을 경험적으로 검증합니다.

제안 방법

• 정점 도메인에서 그래프 컨볼루션을 인접 행렬의 다항식 필터의 합으로 정의합니다: G_{c,f}^{(l)} = sum_{k=0}^{K} g_{c,f,k}^{(l)} A^{k}.
• 안정성을 위해 고유값이 단위 원 안에 위치하도록 정규화된 인접 행렬 A를 사용합니다.
• 선형 투영 열화를 피하기 위해 크기가 1부터 K까지의 필터 세트(K-로컬화 필터)를 사용합니다.
• 거듭된 모노미얼(단항) 필터의 깊은 스택이 선형 투영으로 수렴한다는 것을 보이고; 다중 크기 필터가 이 손실을 피함을 보입니다.
• TAGCN을 스펙트럼 기반 방법과 연결하여 TAGCN은 스펙트럼 분해를 사용하지 않고 복잡도가 낮으며(A의 차수 ≤ 2)임을 강조합니다.
• 표준 데이터셋에서 TAGCN을 DCNN, ECC, ChebNet, GCN, MoNet, GAT와 비교하여 실험적으로 비교합니다.

실험 결과

연구 질문

• RQ1 적응형이고 위상 정보를 활용하는 로컬 필터로 정점 도메인에서 그래프 컨볼루션을 엄밀하게 정의할 수 있는가?
• RQ2 다양한 크기(1..K)의 필터 집합을 사용하는 것이 단일 크기 필터에 비해 깊은 그래프 CNN에서 정보 손실을 완화하는가?
• RQ3 TAGCN은 일반적인 벡터-도메인 그래프 CNN 및 스펙트럼 기반 방법에 비해 공통 벤치마크 그래프에서 어떤 성능을 보이나?
• RQ4 정점 도메인 인접 다항식 필터의 Laplacian 기반 스펙트럴 방법에 대한 계산적 이점은 무엇인가?

주요 결과

• TAGCN은 표준 벤치마크 데이터셋에서 우수하거나 경쟁력 있는 정확도를 달성합니다.
• 크기가 1인 필터와 2인 필터의 조합(K=2)이 다양한 데이터셋에서 강력한 성능을 제공합니다.
• TAGCN은 Pubmed, Citeseer, Cora에서 여러 스펙트럴 및 정점 도메인 기준선보다 더 나은 성능을 보여줍니다(E.g., GCN, ChebNet, MoNet, DCNN, ECC, MoNet, GAT 포함).
• 인접 행렬의 차수 최대 2의 다항식으로만 처리하여 계산 복잡성을 높은 차수 스펙트럴 방법에 비해 감소시킵니다.
• TAGCN은 그래프 신호 처리의 컨볼루션과 일치하며 방향 그래프와 무방향 그래프 모두에 적용할 수 있습니다.