[논문 리뷰] Wavelet-Attention CNN for Image Classification

Xiangyu Zhao|arXiv (Cornell University)|2022. 01. 23.

Advanced Neural Network Applications인용 수 4

한 줄 요약

이 논문은 이산 웨이블릿 변환(DWT)을 통해 저주파수 구조적 특징을 유지하면서 고주파수 세부 정보에 집중할 수 있도록 하는 웨이블릿-어텐션(WA) 블록을 적용한 새로운 컨volution 신경망인 웨이블릿-어텐션 컨volution 신경망(WA-CNN)을 제안한다. WA 블록은 노이즈를 걸러내고 관련성이 높은 고주파수 정보를 강조함으로써 특징 학습을 향상시키며, MobileNetV2 기반으로 CIFAR-10과 CIFAR-100에서 각각 1.26% 및 1.54%의 Top-1 정확도 향상을 달성한다.

ABSTRACT

The feature learning methods based on convolutional neural network (CNN) have successfully produced tremendous achievements in image classification tasks. However, the inherent noise and some other factors may weaken the effectiveness of the convolutional feature statistics. In this paper, we investigate Discrete Wavelet Transform (DWT) in the frequency domain and design a new Wavelet-Attention (WA) block to only implement attention in the high-frequency domain. Based on this, we propose a Wavelet-Attention convolutional neural network (WA-CNN) for image classification. Specifically, WA-CNN decomposes the feature maps into low-frequency and high-frequency components for storing the structures of the basic objects, as well as the detailed information and noise, respectively. Then, the WA block is leveraged to capture the detailed information in the high-frequency domain with different attention factors but reserves the basic object structures in the low-frequency domain. Experimental results on CIFAR-10 and CIFAR-100 datasets show that our proposed WA-CNN achieves significant improvements in classification accuracy compared to other related networks. Specifically, based on MobileNetV2 backbones, WA-CNN achieves 1.26% Top-1 accuracy improvement on the CIFAR-10 benchmark and 1.54% Top-1 accuracy improvement on the CIFAR-100 benchmark.

연구 동기 및 목표

• 특징 맵 내의 노이즈와 여분의 고주파성 성분으로 인한 컨volution 신경망의 특징 표현 품질 저하 문제를 해결하기 위해.
• 저주파수 구조적 정보를 유지하면서 고주파수 세부 정보에만 집중적으로 어텐션을 적용하여 이미지 분류의 특징 학습을 향상시키기 위해.
• 주 특징 구조에 영향을 주지 않도록 고주파수 영역에서만 작동하는 주파수 인식 어텐션 메커니즘을 설계하기 위해.
• 다양한 백본 아키텍처에서 표준 벤치마크를 대상으로 제안된 웨이블릿-어텐션 블록의 효과를 검증하기 위해.
• DWT를 통한 주파수 도메인 어텐션을 통해 소규모 데이터셋에서 모델의 일반화 능력을 향상시키고 과적합을 감소시킬 수 있는지 입증하기 위해.

제안 방법

• 이 방법은 이산 웨이블릿 변환(DWT)을 사용하여 특징 맵을 저주파수 및 고주파수 성분으로 분해하여 구조적 내용과 세부 정보 및 노이즈를 분리한다.
• 웨이블릿-어텐션(WA) 블록을 도입하여 고주파수 성분에만 학습 가능한 어텐션 가중치를 적용함으로써 관련 세부 정보를 강조하고 저주파수 성분은 그대로 유지한다.
• WA 블록은 고주파수 특징의 중요도에 따라 적응적으로 재조정하는 학습 가능한 어텐션 메커니즘을 사용하여 주 구조적 특징을 손상시키지 않으면서 표현력을 향상시킨다.
• WA-CNN는 VGG, ResNet, MobileNetV2와 같은 기존의 CNN 백본에 WA 블록을 통합하여 표준 최적화 프로토콜을 사용한 엔드 투 엔드 학습이 가능하도록 한다.
• 모델은 CIFAR-10 및 CIFAR-100 데이터셋에서 표준 데이터 증강(랜덤 컷, 플립)과 코즈인 감소 학습률 스케줄을 사용하여 학습된다.
• 어 attention 후 역방향 DWT를 통해 특징 재구성을 수행함으로써 표준 CNN 레이어 및 학습 파이프라인과의 호환성을 확보한다.

실험 결과

연구 질문

• RQ1 DWT를 통한 주파수 도메인 분해가 고주파수 성분 내의 노이즈와 세부 정보를 분리함으로써 CNN 기반 이미지 분류의 강건성과 정확도를 향상시킬 수 있는가?
• RQ2 고주파수 영역에서만 어텐션을 적용할 경우 저주파수 성분의 주요 구조적 정보에 손상을 주지 않고 특징 표현을 향상시킬 수 있는가?
• RQ3 소규모 데이터셋에서 표준 어텐션 메커니즘(SE, CBAM 등)과 비교했을 때 WA-CNN의 정확도 및 일반화 능력은 어떠한가?
• RQ4 WA 블록은 아키텍처의 대대적인 수정 없이 다양한 CNN 아키텍처에 효과적으로 통합될 수 있는가?
• RQ5 DWT를 통한 주파수 도메인 어텐션을 통해 고주파수 노이즈를 걸러내면서도 의미 있는 에지 및 텍스처 세부 정보를 유지함으로써 소규모 데이터셋에서 과적합을 줄일 수 있는가?

주요 결과

• WA-CNN는 CIFAR-10 벤치마크에서 MobileNetV2 대비 1.26%의 Top-1 정확도 향상을 기록했으며, CIFAR-100에서는 1.54% 향상되었다.
• VGG16bn 기반으로 WA 블록은 CIFAR-10에서 최고의 Top-1 정확도 93.89%와 CIFAR-100에서는 73.66%를 기록하여 모든 베이스라인 및 어텐션 기반 모델을 능가했다.
• 첫 80 에포크 동안 기준 VGG16bn 대비 WA 블록은 학습 손실을 약 0.2 감소시켜 더 빠르고 안정적인 수렴을 나타냈다.
• VGG, ResNet, MobileNetV2를 포함한 모든 테스트된 백본에서 WA 블록은 일관되게 성능 향상을 이끌었으며, 특히 MobileNetV2와 같은 경량 모델에서 가장 뚜렷한 성과를 보였다.
• SE, CBAM, ECA와 같은 다른 어텐션 메커니즘과 비교했을 때 WA 블록은 대부분의 설정에서 경쟁력을 보였으며, 특히 더 큰 네트워크에서 뛰어난 성능을 보였다.
• 시각화 결과 WA-CNN가 유사하거나 미세한 차이가 나는 이미지의 인식 능력을 향상시켜 더 높은 분류 능력을 가짐을 시사했다.