[論文レビュー] Measuring Robustness in Deep Learning Based Compressive Sensing

Mohammad Zalbagi Darestani, Akshay Chaudhari+1 more|arXiv (Cornell University)|Feb 11, 2021

Sparse and Compressive Sensing Techniques参考文献 53被引用数 47

ひとこと要約

この論文は、 adversarial perturbations、 distribution shifts、および small-detail recovery にわたる、訓練済み・未訓練・従来の CS MRI 再構成法を比較し、再構成品質を超えたロバスト性を評価します。

ABSTRACT

Deep neural networks give state-of-the-art accuracy for reconstructing images from few and noisy measurements, a problem arising for example in accelerated magnetic resonance imaging (MRI). However, recent works have raised concerns that deep-learning-based image reconstruction methods are sensitive to perturbations and are less robust than traditional methods: Neural networks (i) may be sensitive to small, yet adversarially-selected perturbations, (ii) may perform poorly under distribution shifts, and (iii) may fail to recover small but important features in an image. In order to understand the sensitivity to such perturbations, in this work, we measure the robustness of different approaches for image reconstruction including trained and un-trained neural networks as well as traditional sparsity-based methods. We find, contrary to prior works, that both trained and un-trained methods are vulnerable to adversarial perturbations. Moreover, both trained and un-trained methods tuned for a particular dataset suffer very similarly from distribution shifts. Finally, we demonstrate that an image reconstruction method that achieves higher reconstruction quality, also performs better in terms of accurately recovering fine details. Our results indicate that the state-of-the-art deep-learning-based image reconstruction methods provide improved performance than traditional methods without compromising robustness.

研究の動機と目的

• 深層学習と従来の CS MRI 再構成法の adversarial perturbations へのロバスト性を評価する。
• データセットと解剖学の分布シフトに対する感度を検討する。
• 臨床的に重要な小さな画像ディテールの回復能力を調査する。
• 訓練済みニューラルネットワーク、未訓練ネットワーク、古典的なスパース性ベースの手法を比較する。
• MRI 再構成におけるロバスト性と性能のトレードオフに関するガイダンスを提供する。

提案手法

• 訓練済みネットワーク（U-net、VarNet）、未訓練ネットワーク（Deep Decoder 系）および従来の ℓ1-ウェーブレットスパース性と ESPIRiT コイルマップを用いた手法の3つのファミリを検討する。
• 各手法に適合した adversarial perturbations を生成し、ℓ2ノルム制約下での再構成損失を測定する。
• dataset shift（fastMRI knee から Stanford knee への移行）、解剖学的シフト（knee から brain へ／ brain から knee へ）、および adversarial にフィルタリングされたシフト（fastMRI-A）を用いて分布シフトを評価する。
• 人工的な 3×3 フィーチャー挿入による小さな特徴の回復を定量化し、膝画像の実際の注釈病変による回復を評価する。
• SSIM、PSNR、領域ベースの MSE 指標を用いて、分布シフトや摂動に対する各手法のロバスト性を分析する。

実験結果

リサーチクエスチョン

• RQ1 訓練済みと未訓練の MRI 再構成法は、小さな adversarial perturbation に対して類似の脆弱性を示すのか。
• RQ2 分布シフトが再構成品質に対して、手法ファミリ間でどのように影響し、アウト・オブ・ディストリビューションの性能はイン・ディストリビューションの性能と相関するのか。
• RQ3 全体的な再構成品質と、細部の回復能力の間にトレードオフはあるのか。
• RQ4 異なる再構成アプローチ間で、臨床的に重要な小さな特徴はどのように回復するのか。
• RQ5 未訓練手法はデータセット、解剖学、 adversarial シフトの下で訓練済みネットワークと同等のロバスト性を示すのか。

主な発見

• 訓練済みネットワーク、未訓練ネットワーク、および従来の ℓ1 ベース CS を含むすべての手法は、小さな adversarial perturbations に脆弱である。
• ある手法に特化した adversarial perturbations はその手法を著しく損なう一方、他の手法には緩和的な影響しか与えないことがあり、手法固有のロバスト性の弱点を示す。
• 分布シフト（データセット、解剖学、 adversarial にフィルタリングされたもの）は、訓練済み・未訓練の両方の手法で絶対的な低下が類似して性能を低下させる。
• アウト・オブ・ディストリビューションの性能はイン・ディストリビューションの性能と線形に相関し、シフト下でも手法のランク付けは類似している。
• より高いイン・ディストリビューションの再構成品質は、画像の微細なディテールや小さな特徴の回復と相関する。
• 未訓練手法はシフトに対して本質的に訓練済みネットワークよりロバストではなく、再構成品質で最も優れた手法は小さな特徴の回復でも同様に優れている傾向にある。