[논문 리뷰] ACNN: a Full Resolution DCNN for Medical Image Segmentation

Xiao-Yun Zhou, Jian-Qing Zheng외 2명|arXiv (Cornell University)|2019. 01. 26.

Advanced Neural Network Applications참고 문헌 28인용 수 8

한 줄 요약

이 논문은 MRI 및 CT 데이터셋에서 뛰어난 성능을 보이며, 더 적은 학습 가능 파rameter를 사용하면서 U-Net과 Deeplabv3+보다 높은 분할 정확도를 달성하는 전체 해상도 기반의 딥 컨볼루션 신경망인 ACNN을 제안한다. 이는 확장된 컨볼루션 블록을 연결하여 사용하고, 새로운 확장률 설정을 통해 수용영역 커버리지의 최적화를 이루면서도 공간 해상도를 유지한다.

ABSTRACT

Deep Convolutional Neural Networks (DCNNs) are used extensively in medical image segmentation and hence 3D navigation for robot-assisted Minimally Invasive Surgeries (MISs). However, current DCNNs usually use down sampling layers for increasing the receptive field and gaining abstract semantic information. These down sampling layers decrease the spatial dimension of feature maps, which can be detrimental to image segmentation. Atrous convolution is an alternative for the down sampling layer. It increases the receptive field whilst maintains the spatial dimension of feature maps. In this paper, a method for effective atrous rate setting is proposed to achieve the largest and fully-covered receptive field with a minimum number of atrous convolutional layers. Furthermore, a new and full resolution DCNN - Atrous Convolutional Neural Network (ACNN), which incorporates cascaded atrous II-blocks, residual learning and Instance Normalization (IN) is proposed. Application results of the proposed ACNN to Magnetic Resonance Imaging (MRI) and Computed Tomography (CT) image segmentation demonstrate that the proposed ACNN can achieve higher segmentation Intersection over Unions (IoUs) than U-Net and Deeplabv3+, but with reduced trainable parameters.

연구 동기 및 목표

• 기존 DCNN에서의 다운샘플링 기법이 의료 영상 분할 작업에서 공간 해상도를 저하시켜 정밀한 픽셀 수준의 분할 성능에 악영향을 미치는 문제를 해결하기 위해.
• 입력의 공간 차원을 네트워크 전반에 걸쳐 유지함으로써 세밀한 해부학적 구조를 보존할 수 있는 전체 해상도 DCNN을 개발하기 위해.
• 최소한의 레이어 수로 최대한의 수용영역 커버리지와 동시에 입력 노드의 누락 없이 최적의 확장률 설정을 설계하기 위해.
• 모델 복잡도나 파rameter 수를 증가시키지 않고도 소형 또는 국소적 병변의 분할 정확도를 향상시키기 위해.
• 학습 가능 파arameter를 줄여 자원 제약이 있는 장치에서의 효율적 배포를 가능하게 하면서도 높은 성능을 유지하기 위해.

제안 방법

• 제안된 확장률 설정인 $ (k)^{n-1} $을 제안하며, 여기서 $ k $는 커널 크기이며, 이는 최소한의 레이어 수로 최대한의 완전한 수용영역 커버리지 달성하기 위해 사용된다.
• 연속된 확장된 II-블록을 기반으로 한 ACNN 아키텍처를 도입하며, 잔차 학습과 인스턴스 정규화(Instance Normalization, IN)를 통해 학습 안정성과 특징 학습 성능을 향상시킨다.
• 풀링이나 스트라이드 컨볼루션 대신 확장 컨볼루션을 사용하여 네트워크 전반에서 특징 맵의 전체 공간 해상도를 유지한다.
• 잔차 연결을 적용하여 최적화를 용이하게 하고, vanishing gradient 문제 없이 깊은 네트워크 아키텍처를 구현할 수 있도록 한다.
• 각 이미지 인스턴스별로 특징을 정규화함으로써 일반화 성능과 학습 안정성을 향상시키기 위해 인스턴스 정규화를 적용한다.
• 기존의 확장 컨볼루션에서 발생하는 영역 누락 문제를 방지하기 위해 제안된 확장률 순서를 통해 입력 노드의 완전한 커버리지가 보장되도록 네트워크를 설계한다.

실험 결과

연구 질문

• RQ1 U-Net과 Deeplabv3+보다 더 적은 파arameter를 사용하면서도 전체 해상도 DCNN이 더 높은 분할 성능을 달성할 수 있는가?
• RQ2 최소한의 레이어 수로 입력 노드의 누락 없이 수용영역 커버리지가 최대가 되는 최적의 확장률 설정이 존재하는가?
• RQ3 전체 해상도 네트워크가 소형 또는 국소적 병변에 대해 의료 영상에서 세밀한 해부학적 구조를 유지할 수 있는가?
• RQ4 기존의 표준 확장률 순서인 (1,2,4,8,...) 또는 (1,2,5,9,...)와 비교해 볼 때 제안된 확장률 설정이 더 높은 분할 정확도를 제공하는가?
• RQ5 전체 해상도 특징 맵으로 인해 높은 메모리 사용이 발생하더라도 ACNN 아키텍처는 효과적으로 학습될 수 있는가?

주요 결과

• ACNN-II는 RV, LV 및 대동맥 분할 세 가지 데이터셋에서 U-Net과 Deeplabv3+보다 높은 평균 교차율(IoU) 점수를 기록하였다.
• 제안된 확장률 설정인 $ (k)^{n-1} $은 최소한의 레이어 수로 완전한 수용영역 커버리지가 보장되며, 비최적의 순서로 인한 격자 무늬 효과를 방지한다.
• ACNN은 U-Net과 Deeplabv3+에 비해 훨씬 적은 학습 가능 파arameter를 사용하여 모바일 및 엣지 장치에 더 적합한 구조를 지닌다.
• 특히 LV 및 대동맥 데이터셋에서 U-Net과 Deeplabv3+보다 더 빠른 수렴 속도와 낮은 학습 손실을 기록하였다.
• 시각적 분할 결과에서 ACNN-II는 U-Net과 Deeplabv3+보다 더 적은 오진 양성 반응과 더 정확한 경계 예측을 보였다.
• 전체 해상도 처리로 인한 높은 메모리 및 학습 시간 비용에도 불구하고, 파arameter 수의 효율성 향상으로 최신 기술 수준의 성능을 달성하였다.