[논문 리뷰] Spherical CNNs

Taco Cohen, Mario Geiger외 2명|arXiv (Cornell University)|2018. 01. 30.

Medical Image Segmentation Techniques참고 문헌 34인용 수 124

한 줄 요약

이 논문은 일반화된 푸리에 정리와 비가환 푸리에 변환을 사용하여 회전 등변성 있는 구형 상관관계를 정의함으로써, 구형 데이터에서 효율적이고 정확한 학습을 가능하게 하는 구형 컨volution 신경망(spherical CNNs)을 제안한다. 이 방법은 평면 투영에 의한 왜곡을 극복하여 3D 모델 인식과 원자화 에너지 회귀에서 최신 기술 수준의 성능을 달성한다.

ABSTRACT

Convolutional Neural Networks (CNNs) have become the method of choice for learning problems involving 2D planar images. However, a number of problems of recent interest have created a demand for models that can analyze spherical images. Examples include omnidirectional vision for drones, robots, and autonomous cars, molecular regression problems, and global weather and climate modelling. A naive application of convolutional networks to a planar projection of the spherical signal is destined to fail, because the space-varying distortions introduced by such a projection will make translational weight sharing ineffective. In this paper we introduce the building blocks for constructing spherical CNNs. We propose a definition for the spherical cross-correlation that is both expressive and rotation-equivariant. The spherical correlation satisfies a generalized Fourier theorem, which allows us to compute it efficiently using a generalized (non-commutative) Fast Fourier Transform (FFT) algorithm. We demonstrate the computational efficiency, numerical accuracy, and effectiveness of spherical CNNs applied to 3D model recognition and atomization energy regression.

연구 동기 및 목표

• 평면 투영에 의한 왜곡으로 인해 표준 컨volution 신경망이 구형 데이터에서 성능에 한계를 가진다는 문제를 해결하기 위해.
• 수학적으로 타당하고, 회전 등변성 있는 구형 신호를 위한 컨볼루션 연산을 개발하기 위해.
• 회전군에서의 일반화된 빠른 푸리에 변환을 사용하여 구형 상관관계의 효율적 계산을 가능하게 하기 위해.
• 실세계 응용 분야인 3D 모델 인식과 분자 에너지 예측에서 구형 컨볼루션 신경망의 효과성을 입증하기 위해.

제안 방법

• 표현력 있고 회전 등변성 있는 구형 상관관계 연산을 제안한다.
• 구형 신호를 위한 일반화된 푸리에 정리를 유도하여 스펙트럼 도메인에서의 계산을 가능하게 한다.
• 비가환 빠른 푸리에 변환(FFT)을 사용하여 스펙트럼 도메인에서 상관관계를 효율적으로 계산한다.
• 군 이론적 원리를 통해 회전 불변성을 유지하면서 구형 전역에 걸쳐 가중치 공유를 구현한다.
• 표준 딥러닝 구성 요소와 통합된 구형 컨볼루션 레이어를 포함하는 구형 컨볼루션 신경망 아키텍처를 설계한다.
• 3D 시각 및 양자 화학 분야의 실제 데이터셋과 구형 신호 처리 벤치마크를 사용하여 방법을 검증한다.

실험 결과

연구 질문

• RQ1 효율적 계산을 가능하게 하면서도 회전 등변성을 유지할 수 있는 구형 컨볼루션 신경망을 구축할 수 있는가?
• RQ2 평면 투영에 의한 왜곡을 피하기 위해 구형 상관관계는 어떻게 정의할 수 있는가?
• RQ3 SO(3)에서의 일반화된 푸리에 정리는 얼마나 빠르고 정확한 구형 컨볼루션을 가능하게 하는가?
• RQ4 실제 응용에서 구형 데이터에 대해 구형 컨볼루션 신경망이 평면 투영에 적용된 표준 컨볼루션 신경망보다 얼마나 우수한가?

주요 결과

• 제안된 구형 상관관계는 회전 등변성이며, 구형 다양체에서 효과적인 특징 학습을 가능하게 한다.
• 일반화된 푸리에 정리는 비가환 FFT를 통해 효율적인 계산을 가능하게 하여 계산 복잡도를 감소시킨다.
• 3D 모델 인식 작업에서 평면 투영에 적용된 표준 컨볼루션 신경망보다 구형 컨볼루션 신경망이 뛰어난 성능을 보인다.
• 원자화 에너지 회귀에서 높은 정확도를 달성하여 분자 성능 예측에서 강력한 성능을 입증한다.
• 수치 실험을 통해 방법의 계산 효율성과 수치적 안정성이 구형 격자에서 확인되었다.