[논문 리뷰] Computationally Efficient Cascaded Training for Deep Unrolled Network in CT Imaging.

Dufan Wu, Kyung Sang Kim외 1명|arXiv (Cornell University)|2018. 10. 05.

Medical Imaging Techniques and Applications인용 수 1

한 줄 요약

이 논문은 3D CT 영상 복원에서 깊이 있는 언롤드 네트워크를 위한 계산적으로 효율적인 계단식 훈련 방법을 제안한다. 이 방법은 유전적이고 패치 기반의 훈련을 통해 UNet 기반의 CNN과 순서가 있는 부분집합을 사용한 분리 가능한 이차 근사 함수를 활용하여 국소 최소값을 벗어나며, 표준 GPU에서 메모리와 훈련 시간을 줄이고도 희박한 시야 및 제한된 각도의 저선량 CT 작업에서 최신 기술 수준의 영상 품질을 달성한다.

ABSTRACT

Deep-neural-network-based image reconstruction has demonstrated promising performance in medical imaging for under-sampled and low-dose scenarios. However, it requires large amount of memory and extensive time for the training. It is especially challenging to train the reconstruction networks for three-dimensional computed tomography (CT) because of the high resolution of CT images. The purpose of this work is to reduce the memory and time consumption of the training of the reconstruction networks for CT to make it practical for current hardware, while maintaining the quality of the reconstructed images. We unrolled the proximal gradient descent algorithm for iterative image reconstruction to finite iterations and replaced the terms related to the penalty function with trainable convolutional neural networks (CNN). The network was trained greedily iteration by iteration in the image-domain on patches, which requires reasonable amount of memory and time on mainstream graphics processing unit (GPU). To overcome the local-minimum problem caused by greedy learning, we used deep UNet as the CNN and incorporated separable quadratic surrogate with ordered subsets for data fidelity, so that the solution could escape from easy local minimums and achieve better image quality. The proposed method achieved comparable image quality with state-of-the-art neural network for CT image reconstruction on 2D sparse-view and limited-angle problems on the low-dose CT challenge dataset.

연구 동기 및 목표

• 표준 하드웨어에서 딥 러닝 기반 3D CT 영상 복원의 메모리와 훈련 시간을 줄이기 위해.
• 고해상도 CT 볼륨에서 깊이 있는 네트워크를 훈련할 때 발생하는 높은 계산 비용을 해결하기 위해.
• 부족한 샘플링 및 저선량 CT 환경에서도 높은 영상 품질을 유지하기 위해.
• 고급 최적화 전략을 통해 유전적 훈련에서 국소 최소값을 극복하기 위해.
• 임상용 CT 복원을 위한 실용적인 깊이 있는 언롤드 네트워크의 구현을 가능하게 하기 위해.

제안 방법

• 프록실 링드 경사 하강 알고리즘을 유한한 반복 횟수로 언롤드하고, 페널티 함수 항을 학습 가능한 CNN으로 대체하였다.
• 이미지 도메인에서 작은 패치를 대상으로 한 번에 한 번씩 유전적으로 네트워크를 훈련시켜 메모리 사용량을 줄였다.
• 각 반복에 대해 학습 가능한 CNN 구성 요소로 깊이 있는 UNet 아키텍처를 사용하였다.
• 데이터 일관성 항에 대해 순서가 있는 부분집합을 사용한 분리 가능한 이차 근사 함수를 적용하여 수렴성 향상과 국소 최소값 탈출을 도모하였다.
• 주류 GPU에서 패치 기반 훈련을 통해 실용적인 훈련 시간과 메모리 사용량을 확보하였다.
• 반복적 언롤딩과 딥 러닝을 융합하여 복원 정확도와 계산 효율성의 균형을 이루었다.

실험 결과

연구 질문

• RQ1 계단식이고 패치 기반의 훈련이 3D CT 복원을 위한 깊이 있는 언롤드 네트워크의 훈련에서 메모리와 시간 소비를 줄일 수 있는가?
• RQ2 순서가 있는 부분집합을 사용한 분리 가능한 이차 근사 함수의 사용이 유전적 훈련에서 수렴성과 영상 품질을 어떻게 향상시키는가?
• RQ3 UNet 기반의 CNN이 패치 기반으로 반복적이고 유전적으로 훈련되었을 때 영상 품질을 얼마나 잘 유지할 수 있는가?
• RQ4 제안된 방법이 저선량 및 희박한 시야 CT 작업에서 최신 기술 수준의 딥 러닝 방법과 경쟁력 있는 성능을 달성하는가?
• RQ5 고성능 하드웨어가 필요 없이도 이 방법이 표준 GPU에서 실용적으로 구현 가능한가?

주요 결과

• 제안된 방법은 2D 희박한 시야 및 제한된 각도 복원 작업 모두에서 저선량 CT 챌린지 데이터셋에서 최신 기술 수준의 신경망과 비교해 유사한 영상 품질을 달성하였다.
• 패치 기반, 유전적, 반복적 훈련 덕분에 주류 GPU에서 훈련이 가능해져 메모리와 시간 요구량이 크게 감소하였다.
• 분리 가능한 이차 근사 함수와 순서가 있는 부분집합의 사용이 모델이 열악한 국소 최소값에서 벗어나 복원 정밀도를 향상시키는 데 기여하였다.
• 깊이 있는 UNet 아키텍처는 반복 과정 전반에 걸쳐 페널티 함수 항을 효과적으로 학습하여 고품질의 영상 복원을 가능하게 하였다.
• 계단식 훈련 전략은 계산 비용을 크게 줄였지만 성능을 유지하여 임상 적용에 실용적인 방법이 되었다.