[논문 리뷰] MixModule: Mixed CNN Kernel Module for Medical Image Segmentation

Henry Yu, Feng Xue외 2명|arXiv (Cornell University)|2019. 10. 19.

Advanced Neural Network Applications참고 문헌 26인용 수 4

한 줄 요약

이 논문은 복합적인 컨볼루션 신경망 모듈인 MixModule을 제안한다. 이 모듈은 3×3, 5×5, 7×7의 다양한 커널 크기를 융합하여 의료 영상 분할에서 다중 척도의 문맥적 특징을 포착한다. U-Net 및 그 변종(U-Net, R2U-Net, Attention U-Net)에서 단일 크기의 커널을 대체함으로써 특징 표현을 향상시키며, 세 가지 의료 영상 분할 벤치마크에서 일관된 성능 향상을 보이며, Dice 스코어 및 기타 메트릭에서 최신 기술 수준의 성능을 달성한다.

ABSTRACT

Convolutional neural networks (CNNs) have been successfully applied to medical image classification, segmentation, and related tasks. Among the many CNNs architectures, U-Net and its improved versions based are widely used and achieve state-of-the-art performance these years. These improved architectures focus on structural improvements and the size of the convolution kernel is generally fixed. In this paper, we propose a module that combines the benefits of multiple kernel sizes and we apply the proposed module to U-Net and its variants. We test our module on three segmentation benchmark datasets and experimental results show significant improvement.

연구 동기 및 목표

• 고정된 크기의 컨볼루션 커널이 의료 영상 분할 네트워크에서 다양한 수용 영역을 포착하지 못할 수 있는 한계를 해결하기 위해.
• 다양한 커널 크기에서 유도된 다중 척도의 문맥 정보 융합을 통해 U-Net 및 그 변종의 특징 표현을 향상시키기 위해.
• 아키텍처의 대대적인 개편 없이도 성능 향상을 이끌 수 있는 플러그-인 형태의 모듈을 개발하기 위해.
• 제한된 데이터로도 다양한 의료 영상 작업에 대해 제안된 모듈의 효과성을 검증하기 위해.

제안 방법

• MixModule은 동일한 입력 특징 맵에 대해 3×3, 5×5, 7×7의 병렬 컨볼루션 커널을 적용하여 다중 척도의 공간적 특징을 포착한다.
• 다양한 커널의 출력은 채널 차원에 따라 연결되어 통합된 다중 수용 영역 표현을 형성한다.
• 이 모듈은 U-Net 및 그 변종, R2U-Net, Attention U-Net에 포함된 표준 컨볼루션 블록의 플러그인 대체로 설계되어 있다.
• 표준 ReLU 활성화 함수와 배치 정규화를 사용하며, 특징 맵은 연결을 통해 공간 해상도를 유지한다.
• 모듈은 U-Net의 스킵 연결 설계를 유지하여 훈련 중 고해상도 감독을 보장한다.
• Adam 옵timizer를 사용하여 엔드 투 엔드로 훈련하며, 학습률 감소와 데이터 증강(회전, 반전, 밝기, 대trast, 이동)을 적용한다.

실험 결과

연구 질문

• RQ1 다양한 커널 크기를 융합하는 것이 의료 영상 분할 네트워크의 특징 표현을 향상시키는가?
• RQ2 제안된 MixModule이 다양한 U-Net 변종 및 데이터셋에서 일관되게 성능 향상을 이끌 수 있는가?
• RQ3 분할 정확도와 견고성 측면에서 MixModule은 표준 단일 커널 컨볼루션 블록보다 우수한가?
• RQ4 제한된 애너테이션을 가진 소규모 의료 영상 데이터셋에서도 MixModule이 효과적으로 작동하는가?

주요 결과

• 피부 병변 데이터셋에서 MixU-Net은 0.7673의 Dice 스코어를 기록하여 표준 U-Net(0.7645) 및 기타 모든 변종을 능가했다.
• DRIVE 망막 혈관 분할 데이터셋에서 MixAttU-Net은 0.6820의 Dice 스코어를 기록하여 표준 AttU-Net(0.6617) 및 기타 기준 모델을 초월했다.
• CHASE_DB1 데이터셋에서 MixAttU-Net은 0.6636의 Dice 스코어를 기록하여 표준 AttU-Net(0.6457) 및 R2U-Net(0.6378)을 능가했다.
• MixModule 기반 모델은 세 데이터셋 전반에서 가장 높은 F1 스코어와 Dice 계수를 기록하여 분할의 견고성이 향상됨을 시사했다.
• MixU-Net 모델은 피부 데이터셋에서 표준 AttU-Net(94.96%) 대비 95.12%의 정확도를 달성했다.
• 제거 분석 결과, 다중 척도 커널 융합이 특히 혈관이나 병변 경계와 같은 미세 구조를 포착하는 데 특징 학습을 크게 향상시킴을 확인했다.