[논문 리뷰] Multi-level Context Gating of Embedded Collective Knowledge for Medical Image Segmentation

Maryam Asadi-Aghbolaghi, Reza Azad외 2명|arXiv (Cornell University)|2020. 03. 10.

AI in cancer detection참고 문헌 40인용 수 19

한 줄 요약

이 논문은 다중 수준 비방향성 ConvLSTM을 통합한 비선형 스위프 연결, 채널별 특징 재보정을 위한 압축 및 자극(Se) 모듈, 그리고 인코더 경로에서의 조밀한 컨볼루션을 통합한 의료 영상 분할을 위한 향상된 U-Net 아키텍처인 MCGU-Net을 제안한다. 이 모델은 DRIVE, ISIC 2017/2018, PH²를 포함한 여섯 개인 의료 영상 분할 벤치마크에서 최고 성능을 기록하며, Dice 및 IoU 점수에서 뚜렷한 향상을 보였다.

ABSTRACT

Medical image segmentation has been very challenging due to the large variation of anatomy across different cases. Recent advances in deep learning frameworks have exhibited faster and more accurate performance in image segmentation. Among the existing networks, U-Net has been successfully applied on medical image segmentation. In this paper, we propose an extension of U-Net for medical image segmentation, in which we take full advantages of U-Net, Squeeze and Excitation (SE) block, bi-directional ConvLSTM (BConvLSTM), and the mechanism of dense convolutions. (I) We improve the segmentation performance by utilizing SE modules within the U-Net, with a minor effect on model complexity. These blocks adaptively recalibrate the channel-wise feature responses by utilizing a self-gating mechanism of the global information embedding of the feature maps. (II) To strengthen feature propagation and encourage feature reuse, we use densely connected convolutions in the last convolutional layer of the encoding path. (III) Instead of a simple concatenation in the skip connection of U-Net, we employ BConvLSTM in all levels of the network to combine the feature maps extracted from the corresponding encoding path and the previous decoding up-convolutional layer in a non-linear way. The proposed model is evaluated on six datasets DRIVE, ISIC 2017 and 2018, lung segmentation, $PH^2$, and cell nuclei segmentation, achieving state-of-the-art performance.

연구 동기 및 목표

• 의료 영상 분할에서 높은 해부학적 변동성과 노이즈가 많은 데이터의 과제를 해결하기 위해.
• 상황 인식 주의와 조밀한 특징 재사용을 통합하여 U-Net의 특징 표현을 향상시키기 위해.
• 간단한 연결을 초월하여 비선형적이고 게이팅된 융합을 통해 BConvLSTM를 활용한 스위프 연결을 향상시키기 위해.
• 효율적인 아키텍처 수정을 통해 최소한의 계산 오버헤드로 모델 성능을 향상시키기 위해.
• 다양한 의료 영상 작업에서 제안된 구성 요소의 효과를 검증하기 위해.

제안 방법

• 전체 스위프 연결에 비방향성 컨볼루션 Recurrent Neural Network(BConvLSTM)를 활용하여 고해상도로 압축된 특징과 의미론적 복원된 특징을 비선형적으로 융합한다.
• 각 업컨볼루션 레이어 후 배치 정규화(BN)를 적용하여 수렴 속도를 가속화하고 일반화 오차를 감소시킨다.
• 인코더 경로에서 VGG 기반의 백본을 사용하여 사전 훈련된 ImageNet 가중치를 활용한 전이 학습을 가능하게 한다.
• 디코딩 경로에 압축 및 자극(SE) 블록을 통합하여 전반적인 맥락을 고려한 채널별 특징 반응 재보정을 적응적으로 수행한다.
• 최종 인코더 레이어에 조밀한 컨볼루션 블록을 적용하여 특징 재사용과 직접적인 스위프 연결을 통한 깊은 기울기 흐름을 촉진한다.
• 공간 해상도를 유지하면서 의미 이해를 향상시키는 동시에 모든 구성 요소를 통합한 유일한 MCGU-Net 아키텍처를 설계한다.

실험 결과

연구 질문

• RQ1 BConvLSTM는 단순한 연결을 초월하여 U-Net 스위프 연결에서 특징 융합을 향상시킬 수 있는가?
• RQ2 SE 블록의 통합은 정보가 많은 채널에 집중함으로써 특징 표현을 향상시키는가?
• RQ3 인코더 경로에서의 조밀한 컨볼루션은 특징 재사용과 모델 표현력을 향상시키는가?
• RQ4 이러한 아키텍처 수정이 다양한 의료 영상 작업에서 분할 정확도를 얼마나 향상시키는가?
• RQ5 제안된 MCGU-Net은 벤치마크 데이터셋에서 최고 성능 기록 기준 기법들과 비교해 어떻게 성능을 내는가?

주요 결과

• 3개의 조밀한 블록을 가진 MCGU-Net은 ISIC 2018 데이터셋에서 최고의 Dice 점수 0.9306을 기록하여 베이스라인 U-Net 및 다른 최고 성능 기준 기법들을 능가했다.
• SE 블록의 통합으로 ISIC 2018에서 Dice 점수가 약 0.0011 향상되었으며, 정량적 비교에서 더 명확하고 정밀한 분할 마스크가 관찰되었다.
• BConvLSTM 기반 스위프 연결은 경계 오류를 감소시키고 세밀한 분할 성능을 향상시켰으며, ISIC 2018에서의 시각적 비교로 확인되었다.
• 배치 정규화는 학습 속도를 약 2배로 가속화했으며, 수렴 속도 향상과 일반화 오차 감소를 보였다.
• 모든 여섯 평가된 데이터셋에서 최고 성능을 기록했으며, DRIVE(Dice: 0.9295), PH²(Dice: 0.9771), 폐 분할(Dice: 0.9884)을 포함하여 성능이 뛰어났다.
• 제거 실험을 통해 BConvLSTM, SE 블록, 그리고 조밀한 블록 각각이 성능 향상에 점진적으로 기여했으며, 전체 모델이 최적의 성능을 기록했다.