[논문 리뷰] Low-Dose CT Image Denoising Using Parallel-Clone Networks

Siqi Li, Guobao Wang|arXiv (Cornell University)|2020. 05. 14.

Medical Imaging Techniques and Applications참고 문헌 30인용 수 11

한 줄 요약

이 논문은 병렬 입력 피드, 병렬 출력 손실 계산, 클론 간 특징 전달을 가능하게 함으로써 학습 효율성과 이미지 품질을 향상시키는 병렬-클론 신경망(PCN)을 제안한다. 저선량 CT(LDCT) 이미지 노이즈 제거를 위한 것으로, Mayo LDCT 데이터셋에서 45.78 PSNR를 기록하며 DnCNN, RED-CNN, MAP-NN와 같은 기존 모델들을 능가하면서도 유사하거나 감소된 모델 복잡도를 유지한다.

ABSTRACT

Deep neural networks have a great potential to improve image denoising in low-dose computed tomography (LDCT). Popular ways to increase the network capacity include adding more layers or repeating a modularized clone model in a sequence. In such sequential architectures, the noisy input image and end output image are commonly used only once in the training model, which however limits the overall learning performance. In this paper, we propose a parallel-clone neural network method that utilizes a modularized network model and exploits the benefit of parallel input, parallel-output loss, and clone-toclone feature transfer. The proposed model keeps a similar or less number of unknown network weights as compared to conventional models but can accelerate the learning process significantly. The method was evaluated using the Mayo LDCT dataset and compared with existing deep learning models. The results show that the use of parallel input, parallel-output loss, and clone-to-clone feature transfer all can contribute to an accelerated convergence of deep learning and lead to improved image quality in testing. The parallel-clone network has been demonstrated promising for LDCT image denoising.

연구 동기 및 목표

• 순차적-클론 딥 러닝 아키텍처의 한계, 특히 비효율적인 전방 및 역전파 정보 흐름을 해결하기 위해.
• 순차적으로 클론을 쌓는 것 외에도 네트워크 구조를 재고함으로써 훈련 수렴성과 이미지 품질을 향상시키기 위해.
• 낮은 파라미터 수를 유지하면서도 병렬화와 특징 공유를 통해 성능을 향상시키는 모듈형이고 경량화된 딥 러닝 프레임워크를 개발하기 위해.
• 실제 LDCT 데이터에 대해 제안된 방법을 평가하고 최신 노이즈 제거 모델들과 비교하기 위해.

제안 방법

• 제안된 방법은 RED-CNN나 CPCE와 같은 기반 단위로 모듈화된 공유 가중치 신경망 블록을 사용하며, 이를 순차적으로가 아니라 병렬로 복제한다.
• 각 클론은 동시에 동일한 노이즈가 있는 LDCT 입력 이미지를 수신하여, 모든 클론 간에 입력 정보의 병렬 전파를 가능하게 한다.
• 손실 함수는 각 클론의 출력에 대해 별도로 계산되고 동시에 통합되어, 이전 클론으로의 기울기 역전파를 향상시키고 기울기 소실 문제를 줄인다.
• 스킵 연결 또는 연결을 통한 클론 간 특징 전달이 구현되어 고차원 특징을 공유하고 표현 학습을 향상시킨다.
• 순차적 모델과 유사하거나 감소된 훈련 가능한 파라미터 수를 유지하여 계산 효율성을 확보한다.
• 모델은 Mayo LDCT 데이터셋에서 평균 제곱오차(MSE) 손실을 사용하여 엔드 투 엔드로 훈련되며, 최적의 PSNR와 SSIM을 위해 초파rameter가 조정된다.

실험 결과

연구 질문

• RQ1 순차적 아키텍처와 비교해 병렬화된 클론 네트워크 모듈의 입력과 출력 처리가 LDCT 노이즈 제거에서 훈련 수렴성과 이미지 품질 향상에 기여하는가?
• RQ2 클론 간 특징 전달이 깊은 노이즈 제거 네트워크에서 특징 학습을 향상시키고 기울기 소실을 줄이는가?
• RQ3 실제 LDCT 데이터에서 병렬-클론 아키텍처는 MAP-NN과 같은 순차-클론 모델과 비교해 PSNR, SSIM, RMSE 측면에서 어떻게 성능을 내는가?
• RQ4 노이즈 제거 성능을 최대화하면서 파라미터 증가를 최소화하기 위해 최적의 클론 수와 기반 네트워크 모듈(예: RED-CNN 대비 CPCE)은 무엇인가?
• RQ5 제안된 PCN은 DnCNN과 RED-CNN과 같은 기존 최신 기술 모델보다 더 높은 이미지 품질을 달성하면서도 모델 효율성을 유지할 수 있는가?

주요 결과

• 제안된 병렬-클론 네트워크(PCN)는 Mayo LDCT 데이터셋에서 PSNR 45.7775 ± 1.1057을 달성하여 DnCNN(44.1305), RED-CNN(44.5238), MAP-NN(45.4612)를 능가했다.
• PCN는 모든 비교 모델보다 높은 SSIM(0.9855 ± 0.0045)과 낮은 RMSE(0.0053 ± 0.0006)를 기록하여 구조적 성능과 노이즈 감소 능력이 뛰어났다.
• 기반 모듈로 RED-CNN을 사용한 경우 CPCE보다 더 우수한 성능(PSNR: 45.4235)을 기록했으며, 이는 모듈 선택이 최종 성능에 상당한 영향을 미친다는 것을 시사한다.
• 3개의 클론을 사용한 PCN가 모든 테스트 구성 중에서 가장 높은 PSNR를 기록하여 이 아키텍처의 최적 깊이임을 입증했다.
• 모델 복잡도(파라미터 수)는 MAP-NN보다 낮았고, DnCNN 및 RED-CNN와 유사했으나 더 뛰어난 이미지 품질을 제공했다.
• 시각적 비교 결과, PCN는 DnCNN, RED-CNN, MAP-NN보다 더 세밀한 해부학적 구조를 잘 유지했으며, 과도한 부드러움이 줄어들고 대비가 향상되었다.