[논문 리뷰] Automatic 3D Cardiovascular MR Segmentation with Densely-Connected Volumetric ConvNets

Lequan Yu, Jie‐Zhi Cheng외 5명|arXiv (Cornell University)|2017. 08. 02.

Advanced Neural Network Applications참고 문헌 18인용 수 50

한 줄 요약

DenseVoxNet를 소개합니다: 밀집 연결된 3D 완전합성곱 네트워크로 3D 심근 및 혈류 풀 자동 분할을 수행하며 파라미터 수를 줄이면서 최첨단 Dice 점수를 달성합니다.

ABSTRACT

Automatic and accurate whole-heart and great vessel segmentation from 3D cardiac magnetic resonance (MR) images plays an important role in the computer-assisted diagnosis and treatment of cardiovascular disease. However, this task is very challenging due to ambiguous cardiac borders and large anatomical variations among different subjects. In this paper, we propose a novel densely-connected volumetric convolutional neural network, referred as DenseVoxNet, to automatically segment the cardiac and vascular structures from 3D cardiac MR images. The DenseVoxNet adopts the 3D fully convolutional architecture for effective volume-to-volume prediction. From the learning perspective, our DenseVoxNet has three compelling advantages. First, it preserves the maximum information flow between layers by a densely-connected mechanism and hence eases the network training. Second, it avoids learning redundant feature maps by encouraging feature reuse and hence requires fewer parameters to achieve high performance, which is essential for medical applications with limited training data. Third, we add auxiliary side paths to strengthen the gradient propagation and stabilize the learning process. We demonstrate the effectiveness of DenseVoxNet by comparing it with the state-of-the-art approaches from HVSMR 2016 challenge in conjunction with MICCAI, and our network achieves the best dice coefficient. We also show that our network can achieve better performance than other 3D ConvNets but with fewer parameters.

연구 동기 및 목표

• 제한된 학습 데이터를 가진 3D 심장 MR 영상에서 전체 심장 및 대혈관 자동 분할의 도전을 다룬다.
• 정보 흐름을 개선하고 파라미터를 줄이기 위해 밀집 연결형 체적 CNN을 제안한다.
• 보조 사이드 경로와 심층 감독을 통해 학습 안정성과 그래디언트 전파를 강화한다.
• HVSMR 2016 데이터셋에서 심근 및 혈류 풀 분할에 대해 최신 3D ConvNet 대비 우수성을 입증한다.

제안 방법

• DenseVoxNet, 밀집 연결성을 갖는 3D 완전합성곱 네트워크를 제안하여 특성 재사용과 파라미터 수를 감소시킨다.
• 성장률을 12로 두고 각 12개의 변환 계층을 갖는 두 개의 DenseBlock을 구현한다.
• 다운샘플 경로를 따라 3×3×3 컨볼루션, 배치 정규화, ReLU, 드롭아웃(비율 0.2)을 사용한다.
• DenseBlock 사이에 전이 블록을 포함하고 Deconvolution을 이용한 2단계 업샘플링 경로를 통해 보셀 단위 분할을 생성한다.
• 깊은 감독과 그래디언트 흐름을 촉진하기 위해 전이 층에서 최종 출력으로의 긴 스킵 연결을 추가한다.
• 메모리 제약으로 인해 메모리 데이터를 고려한 64×64×64 작은 부피를 학습하고, 겹친 부분 부피 예측에 대해 대다수 투표를 통해 최종 분할을 얻는다.

실험 결과

연구 질문

• RQ1 밀집 연결된 3D CNN이 제한된 학습 데이터로 3D 심장 MR 영상에서 심근 및 혈류 풀의 자동 분할을 개선할 수 있는가?
• RQ2 DenseVoxNet가 기존 3D ConvNet(예: 3D U-Net, VoxResNet)보다 더 적은 파라미터로 더 나은 분할 성능을 달성하는가?
• RQ3 보조 측면 경로와 심층 감독이 분할 정확도 및 학습 안정성을 더 향상시키는가?

주요 결과

• DenseVoxNet는 HVSMR 2016 데이터셋에서 심근(0.821 ± 0.041)과 혈류 풀(0.931 ± 0.011)의 Dice 점수에서 경쟁 방법들 중 최고를 달성했다.
• DenseVoxNet는 약 1.8M 파라미터를 사용하며 3D U-Net(19.0M) 및 VoxResNet(4.0M)보다 상당히 적은 파라미터를 사용한다.
• 보조 경로가 없는 DenseVoxNet-A는 전체 DenseVoxNet에 비해 성능이 떨어져 보조 심층 감독의 이점을 보여준다.
• 다른 ConvNet 접근법에 비해 DenseVoxNet은 심근 Dice에서 더 높은 성능을 보이고 혈류 풀 Dice도 경쟁력 있거나 더 좋으며 파라미터 수가 더 적다.
• 네트워크는 밀집 연결과 특성 재사용으로 정보 흐름이 개선되고 과적합 위험이 감소하는 것을 보여준다.