[논문 리뷰] BUSU-Net: An Ensemble U-Net Framework for Medical Image Segmentation

Wei Hao Khoong|arXiv (Cornell University)|2020. 03. 03.

Retinal Imaging and Analysis참고 문헌 18인용 수 8

한 줄 요약

이 논문은 두 개의 깊이가 다른 이중 방향 컨volution 리커런트 신경망 기반 U-Net 브랜치(좌측 브랜치가 더 깊음)를 조합한 앙상블 U-Net 프레임워크인 BUSU-Net을 제안한다. 이는 스킵 커넥션과 디ensa 블록을 활용한다. 이 방법은 DRIVE 데이터셋에서 망막 혈관 분할 작업에서 최신 기술 수준(SOTA) 성능을 달성하며, 전체 BUSU-Net은 최근 SOTA 모델들을 능가하고 경량 버전인 LightBUSU-Net은 민감도에서 뛰어난 성능을 보였다.

ABSTRACT

In recent years, convolutional neural networks (CNNs) have revolutionized medical image analysis. One of the most well-known CNN architectures in semantic segmentation is the U-net, which has achieved much success in several medical image segmentation applications. Also more recently, with the rise of autoML ad advancements in neural architecture search (NAS), methods like NAS-Unet have been proposed for NAS in medical image segmentation. In this paper, with inspiration from LadderNet, U-Net, autoML and NAS, we propose an ensemble deep neural network with an underlying U-Net framework consisting of bi-directional convolutional LSTMs and dense connections, where the first (from left) U-Net-like network is deeper than the second (from left). We show that this ensemble network outperforms recent state-of-the-art networks in several evaluation metrics, and also evaluate a lightweight version of this ensemble network, which also outperforms recent state-of-the-art networks in some evaluation metrics.

연구 동기 및 목표

• 새로운 앙상블 딥 러닝 프레임워크를 설계하여 U-Net 아키텍처의 의료 영상 분할 정확도를 향상시키는 것.
• 앙상블 U-Net 브랜치의 비대칭 깊이가 대칭 또는 단일 브랜치 네트워크보다 더 나은 성능을 내는지 조사하는 것.
• 계산 비용을 줄이면서도 높은 성능을 유지하는 경량 버전의 앙상블 모델을 개발하는 것.
• 자동화된 머신러닝(automl), 신경망 아키텍처 탐색(NAS), 스킵 커넥션 원칙을 통합된 분할 프레임워크에 통합하는 것.
• 이중 방향 컨volution 리커런트 신경망과 디ensa 연결이 의료 영상 분할을 위한 특징 학습을 향상시키는지 검증하는 것.

제안 방법

• 깊이가 다른 두 개의 U-Net 유사 브랜치로 구성된 앙상블 프레임워크를 제안한다: 더 깊은 좌측 브랜치와 얕은 우측 브랜치.
• 디코딩 경로에서 이중 방향 컨볼루션 리커런트 신경망(BConvLSTM)을 사용하여 특징 맵의 순차적 의존성을 양방향으로 모델링한다.
• 에코더와 디코더 레이어 간에 디ensa 연결을 도입하여 특징 재사용을 촉진하고 기울기 소실 문제를 완화한다.
• U-Net과 유사한 스킵 커넥션을 사용하여 에코더와 디코더 경로의 특징을 연결하지만, 안정성을 높이기 위해 잔차 연결과 배치 정규화를 강화한다.
• 각 업샘플링 및 BConvLSTM 레이어 이후에 배치 정규화를 적용하여 학습 안정성 향상과 수렴 속도 향상을 도모한다.
• 모델 깊이와 너비를 줄이며 핵심 아키텍처 구성 요소를 유지하여 효율성을 확보한 경량 버전(LightBUSU-Net)을 설계한다.

실험 결과

연구 질문

• RQ1 비대칭 깊이를 가진 두 개의 U-Net 브랜치 앙상블이 의료 영상 분할에서 단일 U-Net 또는 깊이가 동일한 브랜치 앙상블보다 성능이 뛰어나게 되는가?
• RQ2 이중 방향 컨볼루션 리커런트 신경망과 디ensa 연결의 통합이 U-Net 기반 분할 모델의 특징 표현을 향상시킬 수 있는가?
• RQ3 제안된 앙상블 프레임워크가 DRIVE와 같은 망막 혈관 분할 벤치마크에서 최신 기술 수준(SOTA) 성능을 달성하는가?
• RQ4 경량 버전의 앙상블 모델이 파라미터 수와 추론 비용을 줄이면서도 경쟁 가능한 성능을 유지할 수 있는가?
• RQ5 최근 NAS 기반 모델들인 NAS-Unet과 S-UNet과 비교하여 제안된 모델의 성능은 주요 평가 지표에서 어떻게 비교되는가?

주요 결과

• BUSU-Net은 DRIVE 데이터셋에서 대부분의 평가 지표(디스크 점수, 재현율 지수, 특이도 등)에서 최근 SOTA 네트워크를 능가한다.
• LightBUSU-Net은 평가된 모든 모델 중에서 가장 높은 민감도를 기록했으며, 전체 BUSU-Net 및 다른 SOTA 방법들을 능가했다.
• 깊이가 다른 두 개의 U-Net 브랜치 앙상블은 단일 BCDU-Net이나 깊이가 동일한 두 개의 BCDU-Nets 앙상블보다 유의미하게 뛰어난 성능을 보였다.
• BUSU-Net의 ROC 곡선 아래 면적(AUC)은 비교된 모든 SOTA 모델보다 높아, 전체 분할 능력이 뛰어나다는 것을 시사한다.
• 경량 버전의 BUSU-Net은 민감도에서 특히 뛰어난 성능을 보였으며, 자원 제약이 있는 임상 환경에서의 구현 가능성을 시사한다.
• 결과는 앙상블 U-Net 프레임워크에서 아키텍처의 비대칭성이 대칭 또는 단일 브랜치 설계보다 향상된 특징 학습과 일반화 능력을 이끌 수 있음을 검증한다.