[論文レビュー] Solving Inverse Problems With Deep Neural Networks -- Robustness Included?

Martin Genzel, Jan Macdonald+1 more|Data Archiving and Networked Services (DANS)|Nov 9, 2020

Advanced X-ray and CT Imaging被引用数 6

ひとこと要約

本稿は、画像の逆問題を解くための深層ニューラルネットワーク（DNN）のロバスト性を、敵対的ノイズおよび統計的ノイズの下で調査する。先行研究における敵対的脆弱性への懸念にもかかわらず、著者らは、特別な防御を施さない標準的なエンドツーエンドDNN—一般的な手法で訓練されたもの—が、両方の摂動に対して耐性を示すことを発見した。制御された設定下で、伝統的な全変動最小化法でさえも、敵対的ロバスト性においてDNNを上回っている。

ABSTRACT

In the past five years, deep learning methods have become state-of-the-art in solving various inverse problems. Before such approaches can find application in safety-critical fields, a verification of their reliability appears mandatory. Recent works have pointed out instabilities of deep neural networks for several image reconstruction tasks. In analogy to adversarial attacks in classification, it was shown that slight distortions in the input domain may cause severe artifacts. The present article sheds new light on this concern, by conducting an extensive study of the robustness of deep-learning-based algorithms for solving underdetermined inverse problems. This covers compressed sensing with Gaussian measurements as well as image recovery from Fourier and Radon measurements, including a real-world scenario for magnetic resonance imaging (using the NYU-fastMRI dataset). Our main focus is on computing adversarial perturbations of the measurements that maximize the reconstruction error. A distinctive feature of our approach is the quantitative and qualitative comparison with total-variation minimization, which serves as a provably robust reference method. In contrast to previous findings, our results reveal that standard end-to-end network architectures are not only resilient against statistical noise, but also against adversarial perturbations. All considered networks are trained by common deep learning techniques, without sophisticated defense strategies.

研究の動機と目的

• 測定空間における敵対的摂動に対する、深層学習ベースの逆問題ソルバーのロバスト性を評価すること。
• 統計的ノイズおよび敵対的ノイズの下で、深層ニューラルネットワークと全変動最小化法—理論的に保証されたロバストな基準手法—の性能を比較すること。
• データジッタリングなどの標準的なトレーニング手法が、明示的な防御機構なしに敵対的ロバストな再構成モデルを生成できるかどうかを調査すること。
• 測定サンプリングパターン（例：k-spaceにおけるラジアルパターンと垂直線）が敵対的ロバスト性に与える影響を評価すること。
• 観察されたロバスト性が、アーキテクチャ設計かトレーニングスケジュールに起因するものかを特定すること。特に、実世界の医用画像診断応用を想定して。

提案手法

• 著者らは、合成的および実世界の逆問題—ガウス測定を伴う圧縮センシング、フーリエ測定およびラドン測定からの画像回復—に対して、標準的なエンドツーエンドDNNアーキテクチャをトレーニングする。
• 敵対的摂動は、再構成誤差を最大化する勾配ベース最適化により計算され、測定ベクトルを標的としつつも、L2ノルムが小さいことを保証する。
• 再構成誤差は、PSNRやSSIMといった標準的な指標を用いて評価され、DNNの出力と真値、およびTVベースの再構成結果とを比較する。
• DNNと全変動（TV）最小化法との間で、同一の測定モデルとノイズレベルを用いて、体系的な比較が行われる。
• トレーニングプロセスには、ロバスト性向上のための標準的な正則化手法として、データジッタリング（ランダムノイズの注入）が含まれる。
• 実験は、シングルコイルおよびマルチコイルデータを用いたNYU-fastMRIデータセット上で実施され、さまざまなノイズ条件下での再構成が視覚化され、定量的に評価される。

実験結果

リサーチクエスチョン

• RQ1 画像分類で観察されたのと同様に、逆問題用のDNNは、測定ドメインにおける敵対的摂動に対して脆弱であるか？
• RQ2 敵対的ノイズ下で、DNNベースの再構成手法のロバスト性は、全変動最小化法と比べてどうか？
• RQ3 データジッタリングなどの標準的なトレーニング手法が、明示的な防御機構なしに、統計的および敵対的ノイズの両方に対してDNNをロバストにできるか？
• RQ4 サンプリングパターンの選択（例：k-spaceにおけるラジアルパターン対垂直線）が、深層学習ベースの画像再構成の敵対的ロバスト性に影響を与えるか？
• RQ5 実験的ロバスト性の結果は、合成的および実世界のMRIデータを含む、さまざまな逆問題設定においても、どの程度一貫性を示すか？

主な発見

• 一般的な手法でトレーニングされた標準的なエンドツーエンドDNNは、測定ドメインにおける敵対的摂動に対して強く耐性を示し、最悪の敵対的ノイズ下でも再構成誤差が僅かに増加するにとどまる。
• 特にフーリエおよびラドンに基づく逆問題において、TV最小化法が理論的に保証されたロバスト性を持つにもかかわらず、DNNのロバスト性がそれを上回っている。
• 敵対的攻撃は、トレーニングデータがノイズレスの場合にのみ顕著な再構成アーチファクトを引き起こすが、トレーニング中にジッタリングを適用することで、この脆弱性は効果的に軽減される。
• すべてのテスト環境において、統計的ノイズと敵対的ノイズの影響の差は一貫しており、敵対的ロバスト性が特定のアーキテクチャやデータセットに起因するものではないことを示している。
• fastMRIデータセットにおいて、ジッタリングを用いてトレーニングされたDNNは、敵対的摂動下でも高いPSNRおよびSSIM値を達成しており、実世界の医用画像診断文脈における実用的ロバスト性を示している。
• 本研究は、逆問題における敵対的ロバスト性が、分類とは異なり、再構成の回帰的性質に起因する可能性があることを明らかにした。