[논문 리뷰] DeepSphere: towards an equivariant graph-based spherical CNN

Michaël Defferrard, Nathanaël Perraudin|arXiv (Cornell University)|2019. 04. 08.

Medical Image Segmentation Techniques참고 문헌 21인용 수 14

한 줄 요약

DeepSphere는 불규칙하게 샘플링된 구면 데이터에서 효율적이고 유연하며 거의 구면 회전 불변성 학습을 가능하게 하는 그래프 기반의 구면 컨volution 신경망을 제안한다. 이는 HEALPix(계층적 등면적 등위도 픽셀화)를 활용하여 설계되었으며, 천체론적 지도 분류 과제에서 최신 기술 수준의 성능을 달성하여 2D CNN과 전통적 기준 모델을 능가한다. 특히 고노이즈 조건과 작은 샘플 크기에서 두드러진 성능 향상을 보인다.

ABSTRACT

Poster presented at the Representation Learning on Graphs and Manifolds (https://rlgm.github.io) workshop at ICLR'19.

연구 동기 및 목표

• 균일하거나 전체 구면을 커버할 필요 없이 불규칙하게 샘플링된 구면 데이터를 효율적으로 처리할 수 있는 신경망 아키텍처를 개발하는 것.
• 스펙트럴 그래프 이론과 HEALPix 샘플링을 활용하여 그래프 기반의 구면 컨볼루션에서 거의 구면 회전 불변성을 달성하는 것.
• 예를 들어 천체론적 수렴 지도 분류와 같은 구면 신호에 대한 회전 불변 학습 과제에서 뛰어난 성능을 보여주는 것.
• 정규 샘플링이나 구면 조화 함수에 의존하는 전통적인 구면 CNN의 대안으로서의 민첩성과 계산 효율성을 제공하는 것.

제안 방법

• 정점이 측정된 데이터 포인트에 대응하고 간선이 지오데식적 근접성을 나타내는 k-최근접 이웃 그래프로 이산화된 구면을 모델링한다.
• 스펙트럴 그래프 이론 프레임워크에 기반한 그래프 컨볼루션 연산을 사용하며, 푸리에 도메인에서 필터링을 위해 그래프 라플라시안과 그 고유분해를 활용한다.
• Defferrard 등(2016)의 그래프 CNN 설정을 활용하여 O(N_pix) 복잡도의 빠른 컨볼루션을 구현함으로써 대규모 데이터셋에의 확장성을 확보한다.
• HEALPix의 다중 해상도 구조를 통한 계층적 풀링을 적용하여 다양한 공간 스케일에서의 다중 척도 특징 학습을 가능하게 한다.
• 두 가지 아키텍처를 사용한다: 전연결층을 포함한 CNN 변형은 전역 분류를 위해, 전역 평균 풀링을 포함한 FCN 변형은 회전 불변성을 위해 설계된다.
• 그래프 푸리에 모드와 구면 조화 함수 간의 일치성을 실증적으로 검증하여 구면 회전 불변성의 정도를 평가한다.

실험 결과

연구 질문

• RQ1 불규칙하게 샘플링된 구면 그래프에서 그래프 컨볼루션은 어느 정도의 구면 회전 불변성을 달성할 수 있는가?
• RQ2 회전 불변 학습 과제에서 그래프 기반의 구면 CNN은 전통적인 구면 CNN과 2D 유클리드 CNN에 비해 성능가능성은 어떠한가?
• RQ3 고정 샘플링 구면 CNN에 비해 그래프 기반 접근 방식은 부분적, 비균일적이고 동적으로 변화하는 구면 데이터를 더 효과적으로 다룰 수 있는가?
• RQ4 HEALPix 샘플링 구조는 그래프 라플라시안의 스펙트럼 성질과 그에 따른 컨볼루션 연산에 어떤 영향을 미치는가?
• RQ5 FCN과 CNN 변형 간의 선택은 회전 불변 과제와 회전 불변성 과제에서 성능에 어떤 영향을 미치는가?

주요 결과

• FCN 변형은 고노이즈 및 소규모 샘플 환경에서 회전 불변성을 활용함으로써 CNN 변형을 능가하는 성능을 보였다.
• DeepSphere는 천체론적 수렴 지도 분류 과제에서 최신 기술 수준의 분류 정확도를 달성하였으며, 과제의 난이도가 높아질수록 성능 격차가 더욱 벌어졌다.
• 그래프 컨볼루션 연산은 O(N_pix) 계산 복잡도를 달성하여 구면 컨볼루션 방법의 O(N_pix^{2/3}) 복잡도보다 더 효율적이다.
• 실증 분석 결과, 저주파 성분(ℓ ≤ 8)에 대해 그래프 푸리에 모드가 구면 조화 함수 부분공간과 잘 일치함을 확인하여, 저역통과 필터에 대해 거의 구면 회전 불변성을 보여주었다.
• 2D ConvNet 기준 모델은 투영에 의한 기하학적 왜곡과 구면 회전 불변성의 부재로 인해 성능이 열등하여, 구면 인식에 특화된 아키텍처의 우수성을 입증하였다.
• 불규칙적이고 부분적인 샘플링을 다룰 수 있는 유연성 덕분에, CMB, 기후 데이터, MEG 등 다양한 종류의 구면 데이터 유형에 대해 일반화 성능이 뛰어나다.