[论文解读] Computationally Efficient Cascaded Training for Deep Unrolled Network in CT Imaging.

Dufan Wu, Kyung Sang Kim+1 more|arXiv (Cornell University)|Oct 5, 2018

Medical Imaging Techniques and Applications被引用 1

一句话总结

该论文提出了一种计算高效的级联训练方法，用于3D CT图像重建中的深度展开网络，采用贪婪的、基于图像块的训练方式，结合基于UNet的卷积神经网络和有序子集的可分二次近似，以摆脱局部极小值。该方法在稀疏视角和有限角度低剂量CT任务中实现了最先进水平的图像质量，同时在标准GPU上显著降低了内存占用和训练时间。

ABSTRACT

Deep-neural-network-based image reconstruction has demonstrated promising performance in medical imaging for under-sampled and low-dose scenarios. However, it requires large amount of memory and extensive time for the training. It is especially challenging to train the reconstruction networks for three-dimensional computed tomography (CT) because of the high resolution of CT images. The purpose of this work is to reduce the memory and time consumption of the training of the reconstruction networks for CT to make it practical for current hardware, while maintaining the quality of the reconstructed images. We unrolled the proximal gradient descent algorithm for iterative image reconstruction to finite iterations and replaced the terms related to the penalty function with trainable convolutional neural networks (CNN). The network was trained greedily iteration by iteration in the image-domain on patches, which requires reasonable amount of memory and time on mainstream graphics processing unit (GPU). To overcome the local-minimum problem caused by greedy learning, we used deep UNet as the CNN and incorporated separable quadratic surrogate with ordered subsets for data fidelity, so that the solution could escape from easy local minimums and achieve better image quality. The proposed method achieved comparable image quality with state-of-the-art neural network for CT image reconstruction on 2D sparse-view and limited-angle problems on the low-dose CT challenge dataset.

研究动机与目标

• 在标准硬件上降低基于深度学习的3D CT图像重建的内存和训练时间。
• 解决在高分辨率CT体积上训练深度网络带来的高计算成本问题。
• 在欠采样和低剂量CT场景中保持高图像质量。
• 通过先进的优化策略克服贪婪训练中的局部极小值问题。
• 实现深度展开网络在临床CT重建中的实际部署。

提出的方法

• 将近端梯度下降算法展开为有限次迭代，并用可训练的卷积神经网络替换惩罚函数项。
• 在图像域中对小图像块进行贪婪训练，逐次迭代，以减少内存使用。
• 在每次迭代中采用深层UNet架构作为可训练的卷积神经网络组件。
• 在数据保真项中应用可分二次近似与有序子集方法，以提升收敛性并摆脱局部极小值。
• 在主流GPU上采用基于图像块的训练，以确保实际可行的训练时间和内存占用。
• 结合迭代展开与深度学习，平衡重建精度与计算效率。

实验结果

研究问题

• RQ1 级联的、基于图像块的训练是否能降低在3D CT重建中训练深度展开网络时的内存和时间消耗？
• RQ2 使用可分二次近似与有序子集的方法在贪婪训练中如何提升收敛性和图像质量？
• RQ3 基于UNet的卷积神经网络在逐次、贪婪地对图像块进行训练时，能在多大程度上保持图像质量？
• RQ4 与最先进水平的深度学习方法相比，该方法在低剂量和稀疏视角CT任务中是否实现了具有竞争力的性能？
• RQ5 该方法是否能在不依赖高端硬件的情况下，在标准GPU上实现实际部署？

主要发现

• 所提方法在低剂量CT挑战数据集的2D稀疏视角和有限角度重建任务中，实现了与最先进神经网络相当的图像质量。
• 由于采用基于图像块的贪婪迭代训练，训练在主流GPU上可行，显著降低了内存和时间需求。
• 使用可分二次近似与有序子集的方法有助于模型摆脱不良局部极小值，提升了重建保真度。
• 深层UNet架构有效学习了各次迭代中的惩罚函数项，实现了高质量的图像重建。
• 级联训练策略在大幅降低计算成本的同时保持了性能，使该方法在临床部署中具有实际可行性。