[논문 리뷰] Atrous Convolutional Neural Network (ACNN) for Semantic Image Segmentation with full-scale Feature Maps

Xiao-Yun Zhou, Jian-Qing Zheng외 1명|arXiv (Cornell University)|2019. 01. 26.

Advanced Neural Network Applications인용 수 2

한 줄 요약

이 논문은 전역 해상도를 유지하면서 수신 영역을 확장하기 위해 캐스케이드된 어트러스 II 블록, 잔차 학습, 인스턴스 정규화를 사용하는 전역 해상도 DCNN인 어트러스 컨volution 신경망(ACNN)을 제안한다. ACNN은 U-Net과 Deeplabv3+보다 더 적은 학습 가능한 파rameter를 사용하면서도 MRI 및 CT 스캔에서 더 높은 세그멘테이션 IoU를 달성한다.

ABSTRACT

Deep Convolutional Neural Networks (DCNNs) are used extensively in medical image segmentation and hence 3D navigation for robot-assisted Minimally Invasive Surgeries (MISs). However, current DCNNs usually use down sampling layers for increasing the receptive field and gaining abstract semantic information. These down sampling layers decrease the spatial dimension of feature maps, which can be detrimental to image segmentation. Atrous convolution is an alternative for the down sampling layer. It increases the receptive field whilst maintains the spatial dimension of feature maps. In this paper, a method for effective atrous rate setting is proposed to achieve the largest and fully-covered receptive field with a minimum number of atrous convolutional layers. Furthermore, a new and full resolution DCNN - Atrous Convolutional Neural Network (ACNN), which incorporates cascaded atrous II-blocks, residual learning and Instance Normalization (IN) is proposed. Application results of the proposed ACNN to Magnetic Resonance Imaging (MRI) and Computed Tomography (CT) image segmentation demonstrate that the proposed ACNN can achieve higher segmentation Intersection over Unions (IoUs) than U-Net and Deeplabv3+, but with reduced trainable parameters.

연구 동기 및 목표

• 기존 의료 영상 세그멘테이션에 사용되는 전통적 DCNN에서의 다운샘플링으로 인한 공간 해상도 손실 문제를 해결하기 위해.
• 큰, 완전히 커버된 수신 영역을 확보하면서도 전역 해상도 특징 맵을 유지하기 위해.
• 세그멘테이션 성능을 훼손하지 않으면서 DCNN의 파rameter 수를 줄이기 위해.
• 로봇 보조 최소 침습 수술에서 3D 탐색에 적합한 효율적인 전역 해상도 아키텍처를 개발하기 위해.
• 최소한의 레이어로 수신 영역 커버리지가 최대가 되도록 어트러스 레이트 설정을 최적화하기 위해.

제안 방법

• 최소한의 어트러스 컨볼루션 레이어로 최대의 완전한 수신 영역 커버리지가 이루어지도록 하기 위한 새로운 어트러스 레이트 설정 전략을 제안한다.
• 다운샘플링 없이 확장된 컨볼루션을 사용하는 캐스케이드된 어트러스 II 블록을 도입하여 수신 영역을 확장한다.
• 깊은 네트워크에서 학습 안정성과 기울기 흐름 향상을 위해 잔차 학습을 적용한다.
• 각 샘플별로 특징을 정규화함으로써 특징 표현과 학습 안정성을 향상시키기 위해 인스턴스 정규화(IN)를 적용한다.
• 다운샘플링을 방지하여 전역 해상도 네트워크를 구성함으로써 네트워크 전반에서 공간 차원을 유지한다.
• 모든 구성 요소를 통합하여 의료 영상에서 고정밀 세분화를 위해 특별히 설계된 유일한 아키텍처인 ACNN을 구성한다.

실험 결과

연구 질문

• RQ1 어트러스 컨볼루션은 세그멘테이션에서 공간 해상도를 유지하기 위해 다운샘플링 레이어를 효과적으로 대체할 수 있는가?
• RQ2 최소한의 레이어로 완전하고 최대 수신 영역 커버리지가 이루어지도록 하기 위한 최적의 어트러스 레이트 설정은 무엇인가?
• RQ3 잔차 학습과 인스턴스 정규화를 적용한 전역 해상도 DCNN이 U-Net과 Deeplabv3+와 같은 기존 최첨단 모델을 능가할 수 있는가?
• RQ4 기존 아키텍처에 비해 ACNN이 더 적은 학습 가능한 파rameter로 더 높은 세그멘테이션 정확도를 달성할 수 있는가?
• RQ5 ACNN은 MRI 및 CT와 같은 다양한 의료 영상 모odalities에서 어떻게 성능을 발휘하는가?

주요 결과

• ACNN은 MRI 및 CT 영상 세그멘테이션 작업에서 U-Net과 Deeplabv3+보다 더 높은 인터섹션 오버 유니언(IoU) 점수를 달성한다.
• 제안된 어트러스 레이트 설정 전략은 기존 접근 방식보다 더 적은 레이어로 완전하고 최대 수신 영역 커버리지가 가능하다.
• ACNN은 네트워크 전반에서 전역 해상도 특징 맵을 유지하여 다운샘플링으로 인한 공간 해상도 손실을 방지한다.
• U-Net과 Deeplabv3+보다 더 적은 학습 가능한 파rameter를 사용하면서도 뛰어난 세그멘테이션 성능을 달성한다.
• 잔차 학습과 인스턴스 정규화의 통합은 네트워크 내에서 학습 안정성과 특징 표현을 향상시킨다.
• MRI 및 CT 데이터셋에 대한 실증 결과는 ACNN의 효과성과 다양한 의료 영상 모달리티에 대한 일반화 능력을 확인한다.