[논문 리뷰] Anti-aliasing Deep Image Classifiers using Novel Depth Adaptive Blurring and Activation Function
이 논문은 깊이에 따라 적응하는 블러링(DAB-pool)과 새로운 반아리어징 ReLU(АА-ReLU)를 제안하여 딥 이미지 분류기의 정 robust성을 향상시킨다. 레이어별로 다른 블러 커널을 학습하고 활성화 함수에 저역통과 필터링을 통합함으로써, 다운샘플링과 비선형성으로 인한 아리어징을 감소시켜 ResNet-101, VGG16, DenseNet-121에서 이동, 손상, 적대적 공격에 대한 최신 기준 성능을 달성한다.
Deep convolutional networks are vulnerable to image translation or shift, partly due to common down-sampling layers, e.g., max-pooling and strided convolution. These operations violate the Nyquist sampling rate and cause aliasing. The textbook solution is low-pass filtering (blurring) before down-sampling, which can benefit deep networks as well. Even so, non-linearity units, such as ReLU, often re-introduce the problem, suggesting that blurring alone may not suffice. In this work, first, we analyse deep features with Fourier transform and show that Depth Adaptive Blurring is more effective, as opposed to monotonic blurring. To this end, we outline how this can replace existing down-sampling methods. Second, we introduce a novel activation function -- with a built-in low pass filter, to keep the problem from reappearing. From experiments, we observe generalisation on other forms of transformations and corruptions as well, e.g., rotation, scale, and noise. We evaluate our method under three challenging settings: (1) a variety of image translations; (2) adversarial attacks -- both $\ell_{p}$ bounded and unbounded; and (3) data corruptions and perturbations. In each setting, our method achieves state-of-the-art results and improves clean accuracy on various benchmark datasets.
연구 동기 및 목표
- 이미지 이동, 노이즈, 적대적 공격 등의 소규모 입력 변형에 취약한 딥 CNN의 문제를 해결한다.
- 비균일한 다운샘플링과 ReLU 활성화로 인한 아리어징이 정 robust성 열악함의 핵심 원인임을 규명한다.
- 깊이가 깊어질수록 더 강한 블러 커널을 학습하는 깊이에 따라 적응하는 블러링 메커니즘을 제안하여 고주파 성분을 유지한다.
- 활성화 함수 내부에 저역통과 필터를 통합하여 비선형성 이후 고주파 아리어징이 재진입하는 것을 방지하는 새로운 활성화 함수(АА-ReLU)를 설계한다.
- 이동, 회전, 스케일링, 적대적 공격 등 다양한 변형에 대한 일반화 성능을 입증한다.
제안 방법
- 깊이에 따라 적응하는 블러링 커널을 적용하는 학습 가능한 다운샘플링 모듈인 DAB-pool을 제안하여, 최대 풀링 또는 스트라이드 컨벌루션을 대체한다.
- 푸리에 분석을 통해 깊은 특징 맵에서 더 많은 고주파 에너지가 존재함을 보여주며, 적응형 블러링의 필요성을 정당화한다.
- 비선형성 이후 고주파 성분을 억제하는 내장형 저역통과 필터를 가진 수정된 ReLU인 АА-ReLU를 도입한다.
- 기존 아키텍처와의 호환성을 유지하면서 DAB-pool과 АА-ReLU를 표준 다운샘플링 및 ReLU 유닛으로 교체하여 네트워크를 훈련시킨다.
- 절단 분석을 통해 블러 커널 크기와 학습 가능성 최적화를 수행하여, 억제와 특징 유지 간의 균형을 고려할 때 3×3 가우시안 커널이 최적임을 발견한다.
- ResNet-101, VGG16, DenseNet-121에 DAB-pool과 АА-ReLU를 통합하여 다양한 아키텍처 간 검증을 수행한다.
![Figure 1 : Features from an original image (top), and its shifted variant (bottom). The baseline (ResNet-101) – without any low-pass filtering, and MaxBlurPool (MBP) [ 3 ] – with monotonic blurring, both experience signal degeneration due to aliasing. Our method retains bulk of the expected signal.](https://ar5iv.labs.arxiv.org/html/2110.00899/assets/feats.png)
실험 결과
연구 질문
- RQ1고정되거나 단조로운 블러링과 비교해 깊이에 따라 적응하는 블러링이 딥 이미지 분류기의 소규모 공간 이동에 대한 정 robust성을 향상시키는가?
- RQ2활성화 함수에 직접 저역통과 필터를 통합함으로써 비선형성 이후 고주파 아리어징이 재진입하는 것을 방지할 수 있는가?
- RQ3DAB-pool과 АА-ReLU는 단순 이동 외에도 다양한 손상과 적대적 공격에 대해 얼마나 일반화 성능을 향상시키는가?
- RQ4적응형 블러링과 필터링된 활성화의 조합이 수렴 속도와 정상 정확도에 어떤 영향을 미치는가?
- RQ5제안된 모듈은 아키텍처 수정 없이 다양한 CNN 아키텍처 간에 효과적으로 이식 가능한가?
주요 결과
- 3×3 가우시안 블러 커널을 사용한 DAB-pool이 더 큰 커널(5×5, 7×7)보다 우수하며, 더 큰 커널은 깊이가 깊은 레이어에서 특히 특징을 과도하게 블러링한다.
- DAB-pool(3×3)과 АА-ReLU의 조합은 ImageNet에서 81.45%의 정상 정확도를 달성하여, ReLU와 최대 풀링을 사용하는 기준 ResNet-101보다 5.08%p 높은 성능을 기록한다.
- 대각선 이동 테스트에서 DAB-pool + АА-ReLU는 94.11%의 이동 일관성을 기록하여 기준 모델(88.95%) 및 다른 구성보다 유의미하게 높은 성능을 보였다.
- 이 방법은 ImageNet-C의 데이터 손상 및 ImageNet-P의 변형에 대해서도 정 robust성을 향상시켜 이동 외 일반화 성능을 입증했다.
- 훈련 시간이 다소 증가(1epoch당 22.6분)하지만, АА-ReLU의 출력이 유계이므로 최적화의 탐색 공간이 줄어들어 SABP보다 수렴 속도가 빠르다.
- 절단 분석 결과, DAB-pool과 함께 사용하더라도 АА-ReLU는 ReLU 및 C-ReLU보다 항상 이동 불변성과 정상 정확도를 향상시킴을 확인했다.
더 나은 연구,지금 바로 시작하세요
논문 읽기부터 검토까지, 연구 시간을 획기적으로 줄여보세요.
카드 등록 없음 · 무료 플랜 제공
이 리뷰는 AI가 만들고, 인간 에디터가 검토했습니다.