[논문 리뷰] Learning Steerable Filters for Rotation Equivariant CNNs

Maurice Weiler, Fred A. Hamprecht외 1명|arXiv (Cornell University)|2017. 11. 20.

Topic Modeling참고 문헌 26인용 수 13

한 줄 요약

이 논문은 보간 오차 없이 정확한 회전 동치성(rotation-equivariance)을 달성하기 위해 원자적 가속 가능 필터의 선형 조합으로 필터를 학습하는 방식의 회전 동치성 컨volution 신경망 아키텍처인 Steerable Filter CNN(SFCNN)을 제안한다. 이 방법은 군 컨볼루션(group convolutions)과 일반화된 He 초기화를 사용하여, 기울기 안정성을 확보하고, 기존의 최고 성능을 넘는 성능을 달성한다. 회전된 MNIST에서 99.1%의 정확도를 기록했으며, ISBI 2012 EM 세그멘테이션 챌린지에서 상위 3개 이내로 랭크되었다.

ABSTRACT

In many machine learning tasks it is desirable that a model's prediction transforms in an equivariant way under transformations of its input. Convolutional neural networks (CNNs) implement translational equivariance by construction; for other transformations, however, they are compelled to learn the proper mapping. In this work, we develop Steerable Filter CNNs (SFCNNs) which achieve joint equivariance under translations and rotations by design. The proposed architecture employs steerable filters to efficiently compute orientation dependent responses for many orientations without suffering interpolation artifacts from filter rotation. We utilize group convolutions which guarantee an equivariant mapping. In addition, we generalize He's weight initialization scheme to filters which are defined as a linear combination of a system of atomic filters. Numerical experiments show a substantial enhancement of the sample complexity with a growing number of sampled filter orientations and confirm that the network generalizes learned patterns over orientations. The proposed approach achieves state-of-the-art on the rotated MNIST benchmark and on the ISBI 2012 2D EM segmentation challenge.

연구 동기 및 목표

• 모든 계층에서 이동 및 회전 동치성을 동시에 만족하는 CNN 아키텍처를 설계하여 과적합을 줄이고 일반화 성능을 향상시키는 것.
• 필터의 회전 시 보간 오차를 제거하기 위해 원자적 기저 함수의 선형 조합으로 매개변수화된 가속 가능한 필터를 사용하는 것.
• 가속 가능한 함수 공간에 정의된 필터를 위한 He 초기화 방법을 일반화하여 안정적인 학습을 보장하는 것.
• 기본 데이터셋에서의 실험적 평가를 통해 다양한 방향에서의 샘플 복잡도와 일반화 성능 향상을 입증하는 것.
• 회전 동치 작업, 예를 들어 회전된 MNIST나 EM 영상 세그멘테이션에서 최고 수준의 성능를 달성하는 것.

제안 방법

• 모든 계층에서 이동 및 회전 동치성을 강제하기 위해 군 컨볼루션을 사용한다.
• 필터는 고정된 원자적 가속 가능한 필터 시스템의 선형 조합으로 매개변수화되어, 전개 계수의 단위를 조정함으로써 정확한 회전을 구현한다.
• 원자적 필터 기저의 에너지를 정규화함으로써 He의 가중치 초기화 방법을 일반화하여 기울기 안정성을 유지한다.
• 방향 간에 가중치를 공유함으로써 파라미터 효율성을 Λ(샘플된 방향의 수) 배만큼 향상시킨다.
• 세그멘테이션 작업의 경우, 국소적으로 불변하는 특징을 생성하기 위해 전역 방향 풀링(global orientation pooling)을 통해 방향 평균 응답을 취한다.
• 학습에는 Adam 옵timizer, 탄성 넷 정규화, 드롭아웃을 사용하며, 안정성을 높이기 위해 학습률 감소와 데이터 증강을 적용한다.

실험 결과

연구 질문

• RQ1 보간 오차 없이 정확한 회전 동치성을 달성할 수 있는 CNN 아키텍처를 설계할 수 있는가?
• RQ2 가속 가능한 필터와 군 컨볼루션의 사용이 샘플 복잡도와 다양한 방향에서의 일반화에 어떤 영향을 미치는가?
• RQ3 가속 가능한 필터 기저를 위한 일반화된 가중치 초기화 방법을 유도할 수 있는가? 이는 학습 안정성을 유지하는 데 기여한다.
• RQ4 제안된 SFCNN 아키텍처가 표준 CNN보다 회전 동치 벤치마크 작업에서 성능이 뛰어나게 되는가?
• RQ5 샘플된 방향의 수를 늘릴수록, 회전 불변 인식 작업에서 성능 향상은 어느 정도 이루어지는가?

주요 결과

• SFCNN는 회전된 MNIST 벤치마크에서 99.1%의 정확도를 기록하여 이전의 모든 방법을 초월했으며, 이는 이 작업에서 99%를 넘는 첫 번째 모델이다.
• 더 높은 각도 해상도를 사용할수록 성능 향상이 뚜렷하게 나타나, 샘플 복잡도가 증가하는 방향으로 감소함을 입증하였다.
• ISBI 2012 2D EM 세그멘테이션 챌린지에서 상위 3개 이내로 랭크되어 실제 생물의학 영상 분석 작업에서의 효과성을 입증하였다.
• 가속 가능한 필터의 사용은 기존에 자주 발생하는 보간 오차로 인한 성능 저하를 제거하였다.
• 일반화된 He 초기화 방법은 원자적 필터 기저 함수의 에너지를 정규화함으로써 안정적인 학습을 보장한다.
• 회전에 따른 가중치 공유를 통해 높은 파라미터 효율성을 달성하여, 과적합 없이도 큰 효과적인 필터 벙크를 구현할 수 있었다.