[논문 리뷰] Tensor graph convolutional neural network

Tong Zhang, Wenming Zheng외 2명|arXiv (Cornell University)|2018. 03. 27.

Advanced Graph Neural Networks참고 문헌 19인용 수 10

한 줄 요약

이 논문은 인수분해 가능한 그래프—특히 순차적 동적 그래프(예: 뼈대 행동 인식)와 교차 속성 그래프(예: 추천 시스템을 위한 행렬 완성)—에서 효율적으로 그래프 컨볼루션을 수행하는 텐서 그래프 컨volution 신경망(TGCNN)을 제안한다. 매개변수화된 크로네커 합 연산과 교차 그래프 컨볼루션 및 그래프 풀링을 갖춘 그래프 유지 레이어를 도입함으로써 TGCNN은 계산 및 메모리 비용을 줄이며, 스파티오-temporal 및 교차 속성 관계를 재귀적으로 전역적으로 모델링할 수 있게 되었고, NTU RGB+D, LSC 및 Synthetic 'Netflix' 데이터셋에서 최신 기술(SOTA) 성능을 달성하였다.

ABSTRACT

In this paper, we propose a novel tensor graph convolutional neural network (TGCNN) to conduct convolution on factorizable graphs, for which here two types of problems are focused, one is sequential dynamic graphs and the other is cross-attribute graphs. Especially, we propose a graph preserving layer to memorize salient nodes of those factorized subgraphs, i.e. cross graph convolution and graph pooling. For cross graph convolution, a parameterized Kronecker sum operation is proposed to generate a conjunctive adjacency matrix characterizing the relationship between every pair of nodes across two subgraphs. Taking this operation, then general graph convolution may be efficiently performed followed by the composition of small matrices, which thus reduces high memory and computational burden. Encapsuling sequence graphs into a recursive learning, the dynamics of graphs can be efficiently encoded as well as the spatial layout of graphs. To validate the proposed TGCNN, experiments are conducted on skeleton action datasets as well as matrix completion dataset. The experiment results demonstrate that our method can achieve more competitive performance with the state-of-the-art methods.

연구 동기 및 목표

• 동적 뼈대와 교차 속성 네트워크와 같은 큰 크기의 인수분해 가능한 그래프에서 표준 그래프 컨볼루션의 높은 계산 및 메모리 비용을 해결하기 위해.
• 하나의 하위그래프에서 다른 하위그래프로의 스파티오-temporal 및 교차그래프 관계를 전역적으로 모델링할 수 있는 재귀적 학습 메커니즘을 개발하기 위해.
• 공간, 시간, 교차 속성 의존성을 동시에 모델링하여 그래프 구조 데이터의 성능을 향상시키기 위해.
• 큰 인cidency 행렬을 더 작은 관리 가능한 구성요소로 분해하는 텐서 기반 연산을 통해 계산 부담을 줄이기 위해.

제안 방법

• 이전에 처리된 하위그래프들로부터 주요 노드를 재귀적으로 유지하고, 이를 들어오는 그래프와 통합하는 그래프 유지 레이어를 도입한다.
• 두 개의 하위그래프 간 노드 간 관계를 모델링할 수 있는 최적의 결합 인cidency 행렬을 학습하기 위해 매개변수화된 크로네커 합 연산을 사용한다.
• 크로네커 합 기반의 교차 그래프 컨볼루션을 활용하여 더 작은 행렬에서 효율적으로 그래프 필터링을 수행함으로써 메모리 및 계산 비용을 감소시킨다.
• 다음 재귀 단계를 위해 가장 주요한 노드만 선택하고 유지하기 위해 그래프 유지 레이어 내부에서 그래프 풀링을 적용한다.
• 순차적 그래프에서 공간적 구조와 시간적 역학을 모두 인코딩하기 위해 재귀적 텐서 컨볼루션 프레임워크를 활용한다.
• 스펙트럼 도메인에서 그래프 필터링을 다항식 근사로 구현하며, 모델 용량 조정을 위해 조정 가능한 차수 K를 사용한다.

실험 결과

연구 질문

• RQ1 재귀적 그래프 컨볼루션 프레임워크는 계산 효율성을 유지하면서도 동적 뼈대 시퀀스의 스파티오-temporal 의존성을 효과적으로 모델링할 수 있는가?
• RQ2 교차 속성 그래프 학습에서 표준 크로네커 합 또는 별도의 그래프 컨볼루션에 비해 매개변수화된 크로네커 합 연산은 성능을 어떻게 향상시키는가?
• RQ3 교차 그래프 컨볼루션과 그래프 풀링을 갖춘 그래프 유지 레이어가 인수분해된 하위그래프 간 전역 그래프 표현 학습에 얼마나 기여하는가?
• RQ4 스펙트럼 필터링에서 다항식 차수 K의 선택이 그래프 구조 데이터의 성능에 미치는 영향은 어떠한가?

주요 결과

• LSC 데이터셋에서 RCSub 프로토콜 하에 TGCNN은 정밀도 86.6%와 재현율 82.9%를 기록하여 IGCNN(정밀도 80.4%, 재현율 77.7%)을 능가하였다.
• Synthetic 'Netflix' 데이터셋에서 TGCNN은 루트 평균 제곱 오차(RMS) 0.0042를 기록하여 RGCNN(0.0053)과 sRGCNN(0.0106)을 모두 뛰어넘어 뛰어난 행렬 완성 성능을 입증하였다.
• 매개변수화된 크로네커 합 연산은 고전적 크로네커 합보다 성능을 향상시켰으며, 정밀도 86.6%와 재현율 82.9%를 기록한 반면, 고전적 방법은 각각 85.2%와 82.4%였다.
• LSC 데이터셋에서 그래프 필터링의 최적 다항식 차수 K는 정밀도에 대해 2, 재현율에 대해 5로 나타나 하이퍼파rameter 선택에 민감함을 보였다.
• 고립된 그래프 컨볼루션 신경망(IGCNN)에 비해 TGCNN이 뚜렷이 뛰어난 성능을 보였으며, 고립된 하위그래프 처리보다 재귀적이고 교차 그래프 기반 학습의 효과성을 확인하였다.
• 그래프 유지 레이어는 재귀 단계 동안 주요 노드를 유지하고 재사용함으로써 인수분해된 그래프의 전역 모델링을 가능하게 하여 표현 학습을 향상시켰다.