[논문 리뷰] Frequency Domain Convolutional Neural Network: Accelerated CNN for Large Diabetic Retinopathy Image Classification

Ee Fey Goh, Zhiyuan Chen외 1명|arXiv (Cornell University)|2021. 06. 24.

Retinal Imaging and Analysis참고 문헌 15인용 수 4

한 줄 요약

이 논문은 주파수 도메인 컨볼루션(FDC) 및 주파수 도메인 풀링(FDP) 레이어를 갖춘 주파수 도메인 컨볼루션 신경망(FDCNN)을 제안하여 대규모 당뇨성 망막병변(DR) 영상의 학습을 가속화한다. RFFT, 커널 초기화, 아티팩트 제거 및 채널 독립 컨볼루션을 활용함으로써 FDCNN은 표준 CNN보다 학습 속도가 54.21% 빠르고 메모리 효율성이 70.74% 높으며, 전체 FDC 레이어를 적용한 수정된 VGG16은 DR 분류에서 95.63%의 정확도를 달성한다.

ABSTRACT

The conventional spatial convolution layers in the Convolutional Neural Networks (CNNs) are computationally expensive at the point where the training time could take days unless the number of layers, the number of training images or the size of the training images are reduced. The image size of 256x256 pixels is commonly used for most of the applications of CNN, but this image size is too small for applications like Diabetic Retinopathy (DR) classification where the image details are important for accurate classification. This research proposed Frequency Domain Convolution (FDC) and Frequency Domain Pooling (FDP) layers which were built with RFFT, kernel initialization strategy, convolution artifact removal and Channel Independent Convolution (CIC) to replace the conventional convolution and pooling layers. The FDC and FDP layers are used to build a Frequency Domain Convolutional Neural Network (FDCNN) to accelerate the training of large images for DR classification. The Full FDC layer is an extension of the FDC layer to allow direct use in conventional CNNs, it is also used to modify the VGG16 architecture. FDCNN is shown to be at least 54.21% faster and 70.74% more memory efficient compared to an equivalent CNN architecture. The modified VGG16 architecture with Full FDC layer is reported to achieve a shorter training time and a higher accuracy at 95.63% compared to the original VGG16 architecture for DR classification.

연구 동기 및 목표

• 대규모 당뇨성 망막병변(DR) 영상에서 딥 CNN 학습의 높은 계산 비용을 해결하기 위해.
• 특히 고해상도 영상에서 느리고 메모리 소비가 큰 표준 공간 컨볼루션 레이어의 한계를 극복하기 위해.
• 정확도를 유지하면서 학습 속도와 효율성을 향상시키는 주파수 도메인 대체 기법인 FDC 및 FDP 레이어를 개발하기 위해.
• 세부 정보가 중요한 데에 적합한 대규모 영상 크기(예: 256x256 이상)를 효과적으로 활용하여 DR 분류를 가능하게 하기 위해.
• VGG16과 같은 기존 아키텍처에 제안된 레이어를 통합하여 아키텍처 전체를 재설계하지 않고도 성능 향상을 이룰 수 있도록 하기 위해.

제안 방법

• 실수값 RFFT를 사용하여 공간 컨볼루션을 주파수 도메인 연산으로 변환하는 주파수 도메인 컨볼루션(FDC) 레이어를 제안하여 계산 복잡도를 감소시킨다.
• 주파수 도메인 학습에 특화된 커널 초기화 전략을 도입하여 학습 안정성 향상과 수렴성 향상을 도모한다.
• 주파수 도메인 연산 중 발생하는 왜곡을 최소화하기 위해 아티팩트 제거 기법을 적용한다.
• 채널 처리를 분리함으로써 주파수 도메인에서의 계산 효율성을 향상시키기 위해 채널 독립 컨볼루션(CIC)을 활용한다.
• 공간 다운샘플링을 주파수 도메인에서 수행함으로써 핵심 특징을 유지하면서 차원을 감소시키는 주파수 도메인 풀링(FDP) 레이어를 개발한다.
• 기존의 표준 컨볼루션 레이어에 대한 플러그인 대체품으로서의 전체 FDC 레이어를 제안하여 VGG16과 같은 기존 CNN에의 통합을 가능하게 한다.

실험 결과

연구 질문

• RQ1 주파수 도메인 연산이 대규모 의료 영상에 대한 CNN 학습의 학습 시간과 메모리 사용량을 크게 줄일 수 있는가?
• RQ2 FDCNN의 성능은 표준 CNN에 비해 당뇨성 망막병변 분류에서 정확도와 효율성 측면에서 어떻게 비교되는가?
• RQ3 FDC 및 FDP 레이어는 고해상도 망막 영상에서 진단에 유의미한 특징을 얼마나 잘 유지하는가?
• RQ4 전체 FDC 레이어는 VGG16과 같은 기존 아키텍처에 재학습 없이 효과적으로 통합될 수 있는가?
• RQ5 제안된 방법은 더 큰 영상 입력을 가능하게 하면서도 분류 정확도를 유지하거나 향상시키는가?

주요 결과

• FDCNN은 동등한 표준 CNN 아키텍처 대비 최소 54.21% 빠른 학습 속도를 달성한다.
• FDCNN 모델은 학습 중 기존 CNN 대비 70.74% 높은 메모리 효율성을 보여준다.
• 전체 FDC 레이어를 적용한 수정된 VGG16 아키텍처는 당뇨성 망막병변 분류에서 테스트 정확도 95.63%를 기록하여 원본 VGG16을 초월한다.
• 주파수 도메인 연산의 사용은 속도나 메모리 효율성에 손실 없이 더 큰 영상 크기에서 효과적인 학습을 가능하게 한다.
• 제안된 커널 초기화 및 아티팩트 제거 기법은 주파수 도메인에서의 학습 안정성과 특징 무결성 향상에 크게 기여한다.
• 전체 FDC 레이어를 통해 존재하는 CNN에 간편하게 통합이 가능하여 아키텍처 재설계 없이도 성능 향상을 이룰 수 있다.