[论文解读] Self-Supervised MRI Reconstruction with Unrolled Diffusion Models

Yılmaz Korkmaz, Tolga Çukur+1 more|arXiv (Cornell University)|Jun 29, 2023

Advanced Neuroimaging Techniques and ApplicationsMedicine被引用 3

一句话总结

该论文提出SSDiffRecon，一种用于加速MRI重建的自监督展开扩散模型，通过将交叉注意力Transformer与数据一致性层结合，对欠采样k空间数据进行去噪。该方法仅使用欠采样k空间数据进行训练，在仅进行五步反向扩散的情况下，实现了最先进的图像质量和速度，优于所有监督和自监督基线方法。

ABSTRACT

Magnetic Resonance Imaging (MRI) produces excellent soft tissue contrast, albeit it is an inherently slow imaging modality. Promising deep learning methods have recently been proposed to reconstruct accelerated MRI scans. However, existing methods still suffer from various limitations regarding image fidelity, contextual sensitivity, and reliance on fully-sampled acquisitions for model training. To comprehensively address these limitations, we propose a novel self-supervised deep reconstruction model, named Self-Supervised Diffusion Reconstruction (SSDiffRecon). SSDiffRecon expresses a conditional diffusion process as an unrolled architecture that interleaves cross-attention transformers for reverse diffusion steps with data-consistency blocks for physics-driven processing. Unlike recent diffusion methods for MRI reconstruction, a self-supervision strategy is adopted to train SSDiffRecon using only undersampled k-space data. Comprehensive experiments on public brain MR datasets demonstrates the superiority of SSDiffRecon against state-of-the-art supervised, and self-supervised baselines in terms of reconstruction speed and quality. Implementation will be available at https://github.com/yilmazkorkmaz1/SSDiffRecon.

研究动机与目标

• 解决现有MRI重建方法的局限性，包括上下文敏感性差、数据分布建模不充分，以及对完全采样数据进行训练的依赖。
• 通过基于掩码k空间重建的自监督策略，克服监督学习中对完全采样采集的依赖。
• 通过在基于扩散的展开架构中集成物理驱动的数据一致性模块，提升图像保真度和重建速度。
• 通过在反向扩散过程中引入交叉注意力Transformer，增强上下文理解与特征表示。
• 证明扩散模型可在极少数反向采样步骤下实现优异性能，同时避免对成对训练数据的需求。

提出的方法

• 提出一种展开架构，将用于去噪的交叉注意力Transformer模块与用于施加物理约束的数据显示一致性投影交替应用于反向扩散过程。
• 采用条件扩散过程，其中去噪网络通过自监督方式训练，以预测欠采样采集中的掩码k空间样本。
• 使用带有交叉注意力的映射网络，将时间步和输入特定条件注入基于Transformer的去噪器。
• 在每次去噪步骤后集成数据显示一致性层，以确保与采集到的欠采样k空间数据的一致性。
• 使用去噪损失进行模型训练，以最小化扩散过程中预测噪声与真实噪声之间的差异。
• 推理仅使用五步反向扩散，与标准DDPM相比，显著缩短了重建时间。

实验结果

研究问题

• RQ1 自监督扩散模型是否能在无需成对完全采样数据的情况下实现高保真度MRI重建？
• RQ2 将数据显示一致性层集成到基于Transformer的展开扩散架构中，对重建质量与速度有何影响？
• RQ3 与基于CNN的模型相比，交叉注意力机制在多大程度上提升了MRI重建中的上下文敏感性与细节保留能力？
• RQ4 极少数反向扩散步骤（例如五步）是否能与具有数千步的标准DDPM相比实现具有竞争力的性能？
• RQ5 所提出的基于掩码k空间预测的自监督策略，在鲁棒性与泛化能力方面，与监督方法及其他自监督基线相比表现如何？

主要发现

• 在IXI数据集上，SSDiffRecon在4×加速下实现了42.3 dB的平均PSNR和99.3的SSIM，优于第二好的自监督方法3.55 dB（PSNR）和1.96%（SSIM）。
• 在fastMRI数据集上，SSDiffRecon在4×加速下实现了40.1 dB的PSNR和96.5的SSIM，优于监督基线0.4 dB（PSNR）和0.25%（SSIM）。
• 该模型仅使用五步反向扩散即达到最先进性能，与标准DDPM相比，显著缩短了推理时间。
• 视觉对比显示，SSDiffRecon在保留高频细节方面优于其他自监督方法，后者常出现模糊或噪声问题。
• 消融研究证实，交叉注意力Transformer与数据显示一致性层对性能均至关重要，任一模块的移除均导致PSNR和SSIM显著下降。
• 自监督训练策略使模型性能达到与监督方法相当的水平，同时消除了对成对完全采样数据的需求。