[论文解读] Measuring Robustness in Deep Learning Based Compressive Sensing

Mohammad Zalbagi Darestani, Akshay Chaudhari+1 more|arXiv (Cornell University)|Feb 11, 2021

Sparse and Compressive Sensing Techniques参考文献 53被引用 47

一句话总结

本论文比较训练、未训练和传统 CS MRI 重建方法在对抗扰动、分布偏移和微小细节恢复方面的鲁棒性，以评估超越重建质量的鲁棒性。

ABSTRACT

Deep neural networks give state-of-the-art accuracy for reconstructing images from few and noisy measurements, a problem arising for example in accelerated magnetic resonance imaging (MRI). However, recent works have raised concerns that deep-learning-based image reconstruction methods are sensitive to perturbations and are less robust than traditional methods: Neural networks (i) may be sensitive to small, yet adversarially-selected perturbations, (ii) may perform poorly under distribution shifts, and (iii) may fail to recover small but important features in an image. In order to understand the sensitivity to such perturbations, in this work, we measure the robustness of different approaches for image reconstruction including trained and un-trained neural networks as well as traditional sparsity-based methods. We find, contrary to prior works, that both trained and un-trained methods are vulnerable to adversarial perturbations. Moreover, both trained and un-trained methods tuned for a particular dataset suffer very similarly from distribution shifts. Finally, we demonstrate that an image reconstruction method that achieves higher reconstruction quality, also performs better in terms of accurately recovering fine details. Our results indicate that the state-of-the-art deep-learning-based image reconstruction methods provide improved performance than traditional methods without compromising robustness.

研究动机与目标

• 评估深度学习与传统 CS MRI 重建方法对对抗扰动的鲁棒性。
• 考察跨数据集和解剖结构的分布偏移敏感性。
• 研究恢复小而临床相关的图像细节的能力。
• 比较训练有素的神经网络、未训练的神经网络和经典的基于稀疏性的方法。
• 为MRI重建中的鲁棒性-性能权衡提供指导。

提出的方法

• 研究三大方法族：训练有素的网络（U-net、VarNet），未训练的网络（Deep Decoder 的变体），以及使用 ESPIRiT 线圈映射的传统 ℓ1-小波稀疏性。
• 生成针对每种方法定制的对抗扰动，并在ℓ2-范数约束扰动下测量重建损失。
• 通过数据集偏移（fastMRI 膝盖到 Stanford 膝盖）、解剖学偏移（膝盖到大脑及反之）以及对抗性筛选的偏移（fastMRI-A）来评估分布偏移。
• 通过人工插入3x3特征以及在膝部影像中的真实标注病变来量化微小特征的恢复。
• 使用SSIM、PSNR以及基于区域的MSE指标分析每种方法对分布偏移和扰动的鲁棒性。

实验结果

研究问题

• RQ1 训练有素和未训练的 MRI 重建方法是否对微小对抗扰动表现出相似的脆弱性？
• RQ2 分布偏移如何影响各方法族的重建质量，且分布外的性能是否与分布内的性能相关？
• RQ3 各方法在整体重建质量与恢复细小图像细节的能力之间是否存在权衡？
• RQ4 在不同重建方法中，小型或临床相关特征的恢复情况如何？
• RQ5 在数据集、解剖部位和对抗性偏移下，未训练方法是否显示出与训练网络相当的鲁棒性？

主要发现

• 包括训练网络、未训练网络和基于 ℓ1 的 CS 的所有方法都对微小对抗扰动敏感。
• 针对某一方法定制的对抗扰动可以显著损害该方法，而对其他方法影响较小，表明方法特定的鲁棒性弱点。
• 分布偏移（数据集、解剖学、对抗性筛选）在训练和未训练方法上都导致性能下降，幅度相近。
• 分布外性能与分布内性能呈线性相关，在偏移下方法的排序保持相似。
• 更高的分布内重建质量与对细节和图像中小特征的更好恢复相关。
• 未训练方法并不天然地对偏移更鲁棒，且在重建质量方面表现最好的方法在小特征恢复方面也往往表现最好。