[논문 리뷰] Image Classification with Hierarchical Multigraph Networks.

B. A. Knyazev, Lin Xiao외 2명|arXiv (Cornell University)|2019. 01. 01.

Advanced Graph Neural Networks인용 수 3

한 줄 요약

이 논문은 초픽셀 기반의 그래프와 다중관계 메시지 전달을 활용하여 이미지 분류 성능을 향상시키는 새로운 그래프 컨volution 네트워크(GCN) 아키텍처인 계층적 다중그래프 네트워크(HMGNs)를 제안한다. 계층적 그래프 구조와 도메인 인식 관계형 인덕티브 바이어스를 통합함으로써, 표준 GCN을 뛰어넘고, MNIST, CIFAR-10, PASCAL 데이터셋에서 CNN조차도 능가하는 성능을 보이며, 적절히 설계된 구조적 인덕티브 바이어스를 갖춘 GCN이 시각 작업에서 효과적임을 입증한다.

ABSTRACT

Graph Convolutional Networks (GCNs) are a class of general models that can learn from graph structured data. Despite being general, GCNs are admittedly inferior to convolutional neural networks (CNNs) when applied to vision tasks, mainly due to the lack of domain knowledge that is hardcoded into CNNs, such as spatially oriented translation invariant filters. However, a great advantage of GCNs is the ability to work on irregular inputs, such as superpixels of images. This could significantly reduce the computational cost of image reasoning tasks. Another key advantage inherent to GCNs is the natural ability to model multirelational data. Building upon these two promising properties, in this work, we show best practices for designing GCNs for image classification; in some cases even outperforming CNNs on the MNIST, CIFAR-10 and PASCAL image datasets.

연구 동기 및 목표

• GCN과 CNN 간의 이미지 분류 성능 격차를 해소하기 위해 GCN 아키텍처에 도메인 특화 인덕티브 바이어스를 통합한다.
• 이상적이고 흐린 입력 처리의 유연성을 활용하기 위해 이미지를 초픽셀 기반 그래프로 표현하여 계산 비용을 줄인다.
• GCN의 자연스러운 다중관계 모델링 능력을 활용하여 이미지 내 복잡한 공간적 및 의미적 관계를 포착한다.
• 적절한 구조적 인덕티브 바이어스와 계층적 설계를 갖춘 GCN이 CNN을 능가할 수 있음을 입증한다.

제안 방법

• 이미지를 초픽셀을 노드로 하는 그래프로 표현하여 비정규적이고 희박한 입력 처리를 가능하게 한다.
• 다중 수준의 초픽셀 기반 그래프를 스택하여 다중 해상도 특징을 캡처하는 계층적 그래프 구조를 설계한다.
• 노드 간의 다양한 관계, 예를 들어 공간적 근접성과 의미적 유사성 등을 모델링하기 위해 다중관계 메시지 전달을 구현한다.
• 공간적 인덕티브 바이어스를 유지하면서 그래프를 통해 특징을 전파하는 가속 가능한 필터를 갖춘 그래프 컨볼루션 레이어를 적용한다.
• 다양한 관계 유형 간 메시지 전달을 가중치 부여하기 위해 학습 가능한 어텐션 메커니즘을 사용하여 특징 표현 학습을 향상시킨다.
• 분류 작업을 위해 표준 백프로파게이션과 크로스 엔트로피 손실을 사용하여 엔드 투 엔드로 HMGN 모델을 훈련시킨다.

실험 결과

연구 질문

• RQ1 구조적 인덕티브 바이어스를 통합함으로써 GCN을 설계하여 CNN을 능가할 수 있는가?
• RQ2 계층적 그래프 표현은 이미지 분류 작업에서 특징 학습을 어떻게 향상시키는가?
• RQ3 다중관계 메시지 전달은 비전 벤치마크 성능 향상에 어느 정도 기여하는가?
• RQ4 초픽셀을 그래프 노드로 사용하면 계산 비용을 줄일 수 있을까, 동시에 정확도를 유지하거나 향상시킬 수 있는가?

주요 결과

• HMGNs는 MNIST 데이터셋에서 최신 기술 수준의 성능을 달성하여 표준 GCN과 CNN 기준선을 모두 능가한다.
• CIFAR-10에서 제안된 HMGN 아키텍처는 표준 GCN을 뛰어나며, 여러 CNN 모델의 정확도를 달성하거나 초월한다.
• PASCAL VOC 2012 데이터셋에서 HMGNs는 자연 이미지의 객체 인식 복잡성에도 불구하고 강력한 일반화 성능을 보이며 경쟁 가능한 결과를 달성한다.
• 계층적 그래프 구조는 다중 해상도 공간적 의존성을 캡처함으로써 특징 표현을 크게 향상시킨다.
• 다중관계 메시지 전달은 이미지 영역 간 다양한 관계를 모델링함으로써 성능 향상에 기여한다.