[论文解读] Solving Inverse Problems With Deep Neural Networks -- Robustness Included?

Martin Genzel, Jan Macdonald+1 more|Data Archiving and Networked Services (DANS)|Nov 9, 2020

Advanced X-ray and CT Imaging被引用 6

一句话总结

本文研究了深度神经网络（DNNs）在成像反问题中的鲁棒性，特别是在对抗性噪声和统计噪声下的表现。尽管先前对对抗性脆弱性存在担忧，作者发现，使用常规技术训练且未采用专门防御措施的标准端到端DNN对两类扰动均表现出鲁棒性，其在对抗性鲁棒性方面甚至优于传统的总变差最小化方法，在受控环境下表现更优。

ABSTRACT

In the past five years, deep learning methods have become state-of-the-art in solving various inverse problems. Before such approaches can find application in safety-critical fields, a verification of their reliability appears mandatory. Recent works have pointed out instabilities of deep neural networks for several image reconstruction tasks. In analogy to adversarial attacks in classification, it was shown that slight distortions in the input domain may cause severe artifacts. The present article sheds new light on this concern, by conducting an extensive study of the robustness of deep-learning-based algorithms for solving underdetermined inverse problems. This covers compressed sensing with Gaussian measurements as well as image recovery from Fourier and Radon measurements, including a real-world scenario for magnetic resonance imaging (using the NYU-fastMRI dataset). Our main focus is on computing adversarial perturbations of the measurements that maximize the reconstruction error. A distinctive feature of our approach is the quantitative and qualitative comparison with total-variation minimization, which serves as a provably robust reference method. In contrast to previous findings, our results reveal that standard end-to-end network architectures are not only resilient against statistical noise, but also against adversarial perturbations. All considered networks are trained by common deep learning techniques, without sophisticated defense strategies.

研究动机与目标

• 评估基于深度学习的反问题求解器在测量空间中对抗性扰动的鲁棒性。
• 在统计噪声和对抗性噪声下，将深度神经网络与总变差最小化——一种可证明鲁棒的参考方法——的性能进行比较。
• 探究标准训练实践（如数据抖动）是否能在不使用显式防御机制的情况下，生成对对抗性噪声鲁棒的重建模型。
• 评估测量采样模式（例如k空间中的径向与垂直线）对对抗性鲁棒性的影响。
• 确定所观察到的鲁棒性是源于网络架构设计还是训练方案，尤其是在真实世界医学成像场景中。

提出的方法

• 作者在合成和真实世界的反问题上训练标准端到端深度神经网络架构，包括高斯测量下的压缩感知，以及基于傅里叶和拉东变换的图像恢复问题。
• 通过基于梯度的优化计算对抗性扰动，以最大化重建误差，同时保持较小的L2范数。
• 使用PSNR和SSIM等标准指标评估重建误差，将DNN输出与真实值及TV基重建结果进行比较。
• 在相同的测量模型和噪声水平下，系统性地比较DNN与总变差（TV）最小化方法。
• 训练过程包括数据抖动（随机噪声注入）作为标准正则化技术，以提升鲁棒性。
• 实验在NYU-fastMRI数据集上进行，使用单线圈和多线圈数据，在不同噪声条件下对重建结果进行可视化和量化。

实验结果

研究问题

• RQ1 基于反问题的深度神经网络是否在测量域中对对抗性扰动敏感，类似于图像分类中观察到的现象？
• RQ2 在对抗性噪声下，DNN基重建方法的鲁棒性与总变差最小化相比如何？
• RQ3 标准训练实践（如数据抖动）是否能在不使用显式防御机制的情况下，使DNN对统计噪声和对抗性噪声均保持鲁棒？
• RQ4 采样模式的选择（如k空间中的径向与垂直线）是否会影响基于深度学习的图像重建的对抗性鲁棒性？
• RQ5 经验性鲁棒性结果在不同反问题设置下（包括合成和真实世界MRI数据）的普适性如何？

主要发现

• 使用常规技术训练的标准端到端深度神经网络在测量域中对抗性扰动表现出强鲁棒性，即使在最坏情况的对抗性噪声下，重建误差也仅适度增加。
• 在对抗性设置下，DNN的鲁棒性优于总变差最小化方法，尤其是在基于傅里叶和拉东变换的反问题中，尽管TV在理论上是可证明鲁棒的。
• 当训练数据无噪声时，对抗性攻击才会导致显著的重建伪影；而训练过程中的抖动可有效缓解此脆弱性。
• 所有测试场景中，统计噪声与对抗性噪声的影响差距保持一致，表明对抗性鲁棒性并非特定架构或数据集的产物。
• 在fastMRI数据集中，经过抖动训练的DNN在对抗性扰动下仍能保持较高的PSNR和SSIM值，表明其在真实世界医学成像场景中具备实际鲁棒性。
• 本研究揭示，反问题中的对抗性鲁棒性可能本质上与重建的回归性质相关，而不同于分类任务中决策边界更易受攻击的特性。