[논문 리뷰] Convolutional Networks for Spherical Signals

Taco Cohen, Mario Geiger외 2명|arXiv (Cornell University)|2017. 09. 14.

Neural Networks and Applications인용 수 56

한 줄 요약

이 논문은 구(sphere) 및 SO(3)에서 회전 가중치 공유를 수행하는 구면 합성곱 신경망을 제시하여 구면 데이터에 대한 회전 등가적 딥러닝을 가능케 하고, 구면 MNIST에서 강한 회전 불변 분류를 시연한다.

ABSTRACT

The success of convolutional networks in learning problems involving planar signals such as images is due to their ability to exploit the translation symmetry of the data distribution through weight sharing. Many areas of science and egineering deal with signals with other symmetries, such as rotation invariant data on the sphere. Examples include climate and weather science, astrophysics, and chemistry. In this paper we present spherical convolutional networks. These networks use convolutions on the sphere and rotation group, which results in rotational weight sharing and rotation equivariance. Using a synthetic spherical MNIST dataset, we show that spherical convolutional networks are very effective at dealing with rotationally invariant classification problems.

연구 동기 및 목표

• 구면 데이터에 대한 그룹 등가적 합성곱의 사용을 동기 부여하고 형식화한다.
• 구면 합성곱과 SO(3) 합성곱 및 그것들의 푸리에 이론적 기초를 정의한다.
• 구면/CovSO(3) 합성곱을 위한 효율적인 일반화된 FFT 기반 구현을 개발한다.
• 구면 MNIST 데이터셋에 대한 실험을 통해 회전 불변성의 이점을 입증한다.

제안 방법

• S^2 위의 f * ψ를 회전된 필터와의 내적을 이용하여 SO(3) 위의 함수로 정의한다 ( Eq. 1 ).
• SO(3) 위의 f * ψ를 SO(3) 전부에 대한 적분으로 정의한다 ( Eq. 2 ).
• S^2 및 SO(3)에서의 일반화된 푸리에 변환(GFT)을 Wigner D-함수와 구면조화함수와 함께 사용한다 ( Eq. 3-4 ).
• GFT 도메인에서 컨볼루션 정리를 적용하여 구면/ SO(3) 합성곱을 효율적으로 수행한다.
• 구면 ConvNet을 구성한다: S^2 Conv → 비선형성 → SO(3) Conv → 비선형성 → 최종 선형 계층 및 소프트맥스.
• 레이어 간 대역폭 축소 및 채널 확장을 활용하고 잔차 연결과 배치 정규화를 가능하게 한다.

실험 결과

연구 질문

• RQ1 구면 및 SO(3) 합성곱은 네트워크 레이어 전반에 걸쳐 회전 등변성을 제공할 수 있는가?
• RQ2 일반화된 FFT를 사용하여 구면 및 회전군에서 합성곱을 효율적으로 구현할 수 있는가?
• RQ3 구면 CNN이 평면 CNN에 비해 구면 MNIST에서 회전 불변 분류를 향상시키는가?
• RQ4 샘플링과 깊이에 따른 등변성의 수치적 동작은 어떠한가?
• RQ5 제안된 아키텍처가 구면 MNIST 벤치마크에서 회전 강건성을 어떻게 시연하는가?

주요 결과

• 구면 합성곱과 SO(3) 합성곱은 수학적으로 회전에 대해 등변이다.
• 효율적인 GFFT 기반 구현은 S^2 및 SO(3)에서의 합성곱을 지원한다.
• 구면 CNN은 회전된 구면 데이터에서 평면 CNN보다 성능이 우수하다.
• 구면 CNN은 비회전 데이터로 학습하고 회전 데이터로 테스트할 때도 높은 정확도를 유지한다 (NR/R).
• 회전 학습 및 회전 테스트(R/R)에서 구면 CNN은 0.91의 정확도, 평면은 0.45.
• 비회전 학습 및 회전 테스트(NR/R)에서 구면 CNN은 0.85, 평면은 0.09.