[논문 리뷰] Graph Convolution with Low-rank Learnable Local Filters

Xiuyuan Cheng, Zichen Miao외 1명|arXiv (Cornell University)|2020. 08. 04.

Human Pose and Action Recognition참고 문헌 58인용 수 5

한 줄 요약

이 논문은 학습 가능한 저랭크 국소 필터를 사용하는 새로운 그래프 컨볼루션 모델인 L3Net을 제안한다. 이 모델은 스펙트럼적 및 공간적 그래프 컨볼루션을 통합하며, 그래프 필터를 훈련 가능한 국소 기저와 계수로 분해하고 국소 그래프 라플라시안 정규화를 통합함으로써 더 높은 표현력과 그래프 노이즈에 대한 강건성을 달성한다. 구면 메쉬, 얼굴 랜드마크, 스켈레톤 기반 동작 인식에서 기존 방법들을 능가하며, 변형에 대해서도 안정성이 향상된다.

ABSTRACT

Geometric variations like rotation, scaling, and viewpoint changes pose a significant challenge to visual understanding. One common solution is to directly model certain intrinsic structures, e.g., using landmarks. However, it then becomes non-trivial to build effective deep models, especially when the underlying non-Euclidean grid is irregular and coarse. Recent deep models using graph convolutions provide an appropriate framework to handle such non-Euclidean data, but many of them, particularly those based on global graph Laplacians, lack expressiveness to capture local features required for representation of signals lying on the non-Euclidean grid. The current paper introduces a new type of graph convolution with learnable low-rank local filters, which is provably more expressive than previous spectral graph convolution methods. The model also provides a unified framework for both spectral and spatial graph convolutions. To improve model robustness, regularization by local graph Laplacians is introduced. The representation stability against input graph data perturbation is theoretically proved, making use of the graph filter locality and the local graph regularization. Experiments on spherical mesh data, real-world facial expression recognition/skeleton-based action recognition data, and data with simulated graph noise show the empirical advantage of the proposed model.

연구 동기 및 목표

• 비유럽형 불규칙하고 굵은 메쉬에서 국소 특징을 포착하는 데에 한계가 있는 스펙트럼 그래프 컨볼루션의 표현력 부족 문제를 해결하기 위해.
• 스펙트럼적 및 공간적 그래프 컨볼루션 방법을 통합하는 통합 프레임워크를 개발하기 위해.
• 노이즈 또는 손실된 랜드마크와 같은 그래프 데이터의 변형에 대한 모델 강건성을 향상시키기 위해.
• 입력 그래프의 변형에 대한 표현 안정성을 리프시츠 유형 분석을 통해 이론적으로 증명하기 위해.
• 다양한 유형의 그래프 노이즈를 가진 실제 및 시뮬레이션된 데이터에서 뛰어난 성능을 경험적으로 검증하기 위해.

제안 방법

• L3Net은 그래프 필터를 훈련 가능한 국소 기저 행렬과 계수로 저랭크 분해하여 국소적이고 적응형 특징 학습을 가능하게 한다.
• 모델은 텐서 기반 선형 매핑을 사용하여 훈련 가능한 국소 필터를 조합함으로써 민첩하고 표현력 있는 그래프 신호 처리를 가능하게 한다.
• 국소 그래프 라플라시안을 정규화 기법으로 도입하여 그래프 위상 변화와 노이즈에 대한 표현 안정성을 향상시킨다.
• 이론적 분석을 통해 L3Net이 전체 그래프 라플라시안 기반의 전역 스펙트럼 그래프 컨볼루션 방법보다 엄격히 더 높은 표현력을 가짐을 증명한다.
• 프레임워크는 기존 모델을 일반화한다: ChebNet, GAT, EdgeNet, 그리고 저랭크 CNN은 특정한 파rameter 설정 하에서 특수한 경우로 나타난다.
• 변형 분석은 리프시츠 유형의 안정성을 확립하여, 노드 순열 및 누락된 간선과 같은 입력 그래프 데이터의 변형에 대한 강건성을 보장한다.

실험 결과

연구 질문

• RQ1 저랭크 국소 필터 분해가 기존 스펙트럼 방법을 초월하여 그래프 컨볼루션의 표현력을 향상시킬 수 있는가?
• RQ2 국소 그래프 정규화는 랜드마크 기반 데이터에서 그래프 노이즈에 대한 강건성을 어떻게 향상시킬 수 있는가?
• RQ3 제안된 모델이 스펙트럼적 및 공간적 그래프 컨볼루션 프레임워크를 어느 정도 통합하는가?
• RQ4 실제 그래프 변형, 예를 들어 노드 누락 또는 간선 순열과 같은 상황에서 이론적 안정성 보장이 유지되는가?
• RQ5 불규칙하고 굵은 비유럽형 데이터, 예를 들어 얼굴 및 스켈레톤 랜드마크를 포함한 작업에서 L3Net은 최신 기술(GNN)보다 어떻게 성능을 냈는가?

주요 결과

• $7\times7$ MNIST에서 값 누락 노이즈 조건에서, 정규화를 적용한 L3Net(reg=0.5)은 PSNR 15.33일 때 82.84%의 정확도를 기록하여 모든 베이스라인을 능가했다.
• $14\times14$ MNIST에서, 기저 순서 1;1;2;3를 가진 L3Net은 97.51%의 정확도를 기록했으며, $L=7$일 때 최고 성능를 기록한 ChebNet(97.74%)와 유사한 성능를 보였다.
• $28\times28$ MNIST에서, 기저 1;1;2;3를 가진 L3Net은 97.51%의 정확도를 기록했으며, $L=7$일 때의 GCN 및 ChebNet을 초월했다.
• $7\times7$ MNIST에서 가우시안 노이즈 조건에서, L3Net(reg=0.5)은 PSNR 18.70일 때 87.22%의 정확도를 기록하여 다음으로 우수한 방법보다 0.13% 높은 성능를 보였다.
• 시뮬레이션된 그래프 순열 노이즈 조건에서, 정규화를 적용한 L3Net은 높은 노이즈 수준에서도 76.48%의 정확도를 유지하여 뛰어난 강건성을 보였다.
• 얼굴 표정 및 스켈레톤 기반 동작 인식 작업에서, L3Net은 GCN, ChebNet, GAT에 비해 일관된 성능 향상을 보였으며, 특히 노이즈가 있는 랜드마크 조건에서 두각을 나타냈다.