[论文解读] Low-Dose CT Image Denoising Using Parallel-Clone Networks

Siqi Li, Guobao Wang|arXiv (Cornell University)|May 14, 2020

Medical Imaging Techniques and Applications参考文献 30被引用 11

一句话总结

本文提出一种用于低剂量CT（LDCT）图像去噪的并行克隆神经网络（PCN），通过实现并行输入馈送、并行输出损失计算以及克隆间特征传递，提升了学习效率和图像质量。该方法在Mayo LDCT数据集上实现了45.78的PSNR，优于DnCNN、RED-CNN和MAP-NN等现有模型，同时保持了相当或更低的模型复杂度，达到当前最先进性能。

ABSTRACT

Deep neural networks have a great potential to improve image denoising in low-dose computed tomography (LDCT). Popular ways to increase the network capacity include adding more layers or repeating a modularized clone model in a sequence. In such sequential architectures, the noisy input image and end output image are commonly used only once in the training model, which however limits the overall learning performance. In this paper, we propose a parallel-clone neural network method that utilizes a modularized network model and exploits the benefit of parallel input, parallel-output loss, and clone-toclone feature transfer. The proposed model keeps a similar or less number of unknown network weights as compared to conventional models but can accelerate the learning process significantly. The method was evaluated using the Mayo LDCT dataset and compared with existing deep learning models. The results show that the use of parallel input, parallel-output loss, and clone-to-clone feature transfer all can contribute to an accelerated convergence of deep learning and lead to improved image quality in testing. The parallel-clone network has been demonstrated promising for LDCT image denoising.

研究动机与目标

• 为解决现有顺序克隆深度学习架构在LDCT去噪中前向与反向信息流效率低下的问题。
• 通过重新思考网络结构，超越顺序堆叠克隆的方式，提升训练收敛速度与图像质量。
• 开发一种模块化、轻量级的深度学习框架，在保持低参数量的同时，通过并行化与特征通信提升性能。
• 在真实世界LDCT数据上评估所提方法，并与当前最先进去噪模型进行比较。

提出的方法

• 所提方法采用模块化、共享权重的网络模块（如RED-CNN或CPCE）作为基础单元，将其并行克隆多次，而非顺序堆叠。
• 每个克隆同时接收相同的噪声LDCT输入图像，实现所有克隆间输入信息的并行前向传播。
• 每个克隆的输出独立计算损失，并行组合，从而改善梯度向早期克隆的反向传播，减轻梯度消失问题。
• 通过跳跃连接或拼接方式实现克隆间的特征传递，使高层特征得以共享，增强表征学习能力。
• 该架构在可训练参数数量上与顺序模型相当或更少，确保计算效率。
• 模型在Mayo LDCT数据集上使用均方误差（MSE）损失进行端到端训练，超参数经调优以获得最优PSNR与SSIM。

实验结果

研究问题

• RQ1 与顺序架构相比，并行化克隆网络模块的输入与输出是否能提升LDCT去噪中的训练收敛速度与图像质量？
• RQ2 克隆间特征传递的引入是否能增强特征学习并减少深度去噪网络中的梯度消失问题？
• RQ3 在真实LDCT数据上，与顺序克隆模型（如MAP-NN）相比，该并行克隆结构在PSNR、SSIM和RMSE指标上的表现如何？
• RQ4 为最大化去噪性能并最小化参数增长，最优克隆数量及基础网络模块（如RED-CNN与CPCE）应如何选择？
• RQ5 所提PCN是否能在保持模型效率的同时，实现优于现有SOTA模型（如DnCNN与RED-CNN）的图像质量？

主要发现

• 所提并行克隆网络（PCN）在Mayo LDCT数据集上达到45.7775 ± 1.1057的PSNR，优于DnCNN（44.1305）、RED-CNN（44.5238）和MAP-NN（45.4612）。
• PCN的SSIM（0.9855 ± 0.0045）更高，RMSE（0.0053 ± 0.0006）更低，表明其在结构保持与噪声抑制方面表现更优。
• 以RED-CNN作为基础模块时性能更优（PSNR: 45.4235），优于CPCE（PSNR: 44.6365），表明模块选择对最终性能影响显著。
• PCN在3个克隆时达到所有测试配置中的最高PSNR，表明该架构在深度上存在最优配置。
• 模型复杂度（参数数量）低于MAP-NN，与DnCNN和RED-CNN相当，但图像质量更优。
• 视觉对比显示，PCN在保留更精细解剖细节方面优于DnCNN、RED-CNN和MAP-NN，表现出更少过度平滑现象并提升了对比度。