[논문 리뷰] Continuous U-Net: Faster, Greater and Noiseless

Chun-Wun Cheng, Christina Runkel외 4명|arXiv (Cornell University)|2023. 02. 01.

Radiomics and Machine Learning in Medical ImagingMedicine인용 수 3

한 줄 요약

이 논문은 의료 영상 분할을 위한 새로운 연속적 딥러닝 아키텍처인 Continuous U-Net을 소개한다. 이는 두 번째 차수 상미분방정식(OEDs)을 통해 네트워크 동역학을 모델링한다. 이론적으로는 이중 ODE 기반 동적 블록으로 기존의 이산적 U-Net 블록을 대체함으로써 빠른 수렴, 노이즈에 대한 높은 내성, 그리고 인접 감도 방법을 통한 일정한 메모리 비용을 달성하며, 여섯 개의 벤치마크 데이터셋에서 기존 U-Net 변종보다 뛰어난 성능을 보인다.

ABSTRACT

Image segmentation is a fundamental task in image analysis and clinical practice. The current state-of-the-art techniques are based on U-shape type encoder-decoder networks with skip connections, called U-Net. Despite the powerful performance reported by existing U-Net type networks, they suffer from several major limitations. Issues include the hard coding of the receptive field size, compromising the performance and computational cost, as well as the fact that they do not account for inherent noise in the data. They have problems associated with discrete layers, and do not offer any theoretical underpinning. In this work we introduce continuous U-Net, a novel family of networks for image segmentation. Firstly, continuous U-Net is a continuous deep neural network that introduces new dynamic blocks modelled by second order ordinary differential equations. Secondly, we provide theoretical guarantees for our network demonstrating faster convergence, higher robustness and less sensitivity to noise. Thirdly, we derive qualitative measures to tailor-made segmentation tasks. We demonstrate, through extensive numerical and visual results, that our model outperforms existing U-Net blocks for several medical image segmentation benchmarking datasets.

연구 동기 및 목표

• 이산적 U-Net 아키텍처의 한계, 즉 고정된 수신장, 높은 계산 비용, 노이즈에 대한 민감성 문제를 해결하기 위해.
• 이차 ODE를 사용하여 이산적 U-Net 블록의 연속적 대체 모델을 이론적으로 기반하여 개발하기 위해.
• 연속적 프레임워크 내에서 인접 감도 방법을 통해 더 빠른 수렴과 일정한 메모리 비용을 달성하기 위해.
• 다양한 의료 영상 데이터셋에서의 일반화 능력을 향상시키고 노이즈에 대한 내성을 향상시키기 위해.
• 주의 메커니즘 또는 트랜스포머와 같은 고급 구성 요소를 통합한 미래의 연속적 U-Net 변종을 위한 기반을 마련하기 위해.

제안 방법

• 네트워크는 인코더 및 디코더 블록이 이차 ODE에 의해 지배되는 동적 블록으로 대체된 연속적 U-Net으로 구성된다.
• 동적 블록은 이차 신경 ODE를 사용하여 모델링되어 더 부드럽고 더 민감한 특징 학습 경로를 가능하게 한다.
• 인접 감도 방법을 적용하여 ODE 통합을 역행함으로써, 모델 깊이에 관계없이 O(1)의 메모리 비용을 달성한다.
• 이론적 분석을 통해 표준 U-Net 블록 대비 더 빠른 수렴과 노이즈에 대한 감도 감소를 입증한다.
• 분할 작업에 최적화된 통합 방법을 도출하기 위해 다양한 ODE 해법기(Euler, AB, ABM, RK4)를 평가한다.
• 성능 향상과 안정성 향상을 위해 특정 분할 작업에 맞게 조정된 정성적 측정 기준을 도입한다.

실험 결과

연구 질문

• RQ1 이차 ODE를 사용하는 연속적 U-Net 아키텍처가 의료 영상 분할에서 표준 이산적 U-Net 블록보다 뛰어난 성능을 보일 수 있는가?
• RQ2 U-Net의 동역학을 연속적 ODE로 모델링하면 더 빠른 수렴과 낮은 메모리 소비를 달성할 수 있는가?
• RQ3 노이즈가 첨가된 데이터 상황에서 제안된 방법은 표준 U-Net 변종 대비 어떻게 성능을 보이는가?
• RQ4 연속적 프레임워크는 안정성과 수렴에 대한 이론적 보장을 제공할 수 있는가?
• RQ5 주의 메커니즘 또는 트랜스포머와 같은 추가 기법 없이도 연속적 U-Net이 최신 기술 수준의 성능을 달성할 수 있는가?

주요 결과

• Continuous U-Net는 이산적 U-Net 블록보다 유의미하게 더 빠른 수렴을 보이며, 최적 성능에 도달하기 위해 더 적은 반복 수를 필요로 한다.
• 인접 감도 방법을 통해 O(1)의 메모리 비용을 달성하여 깊이에 관계없이 계산적으로 효율적이다.
• 모든 여섯 개의 벤치마크 데이터셋에서 표준 U-Net 블록을 초월하고, 주의 메커니즘을 통합한 모델조차도 뛰어난 성능을 기록한다.
• 가우시안 노이즈(σ = 0.2)가 첨가된 상황에서, Continuous U-Net는 정상 상태 성능과의 차이가 0.1209 이내를 유지한다. 반면, 인셉션 블록을 통합한 U-Net는 GlaS 데이터셋에서 0.7434에서 0.1930으로 성능이 급격히 하락한다.
• 모든 데이터셋과 평가 지표에서 네 번째 차수 룬게-쿠타(RK4) 해법기가 옐러, 애덤-바시포스(AB), 애덤-바시포스-몰턴(ABM) 해법기보다 뛰어난 성능을 보였다.
• FO 블록과 달리 Continuous U-Net는 모든 데이터셋과 평가 지표에서 안정적이고 높은 성능을 기록하였으며, 특히 STARE 데이터셋에서의 불안정한 결과를 보였던 FO 블록과는 대조된다.