[論文レビュー] Regularizing linear inverse problems with convolutional neural networks

Reinhard Heckel|arXiv (Cornell University)|Jul 6, 2019

Sparse and Compressive Sensing Techniques参考文献 24被引用数 10

ひとこと要約

この論文では、圧縮センシングやMRI再構成などの線形逆問題を正則化するために、訓練されておらず、パrameter数が少ない畳み込みニューラルネットワークを画像の事前分布として使用することを提案している。固定または学習可能な畳み込みフィルタを活用することで、ネットワークはコンactな画像表現を実現し、少ない測定値から高精度な回復を可能にし、実際のMRIデータにおいて従来の$β_1$法および全変動法を上回る性能を発揮する。

ABSTRACT

Deep convolutional neural networks trained on large datsets have emerged as an intriguing alternative for compressing images and solving inverse problems such as denoising and compressive sensing. However, it has only recently been realized that even without training, convolutional networks can function as concise image models, and thus regularize inverse problems. In this paper, we provide further evidence for this finding by studying variations of convolutional neural networks that map few weight parameters to an image. The networks we consider only consist of convolutional operations, with either fixed or parameterized filters followed by ReLU non-linearities. We demonstrate that with both fixed and parameterized convolutional filters those networks enable representing images with few coefficients. What is more, the underparameterization enables regularization of inverse problems, in particular recovering an image from few observations. We show that, similar to standard compressive sensing guarantees, on the order of the number of model parameters many measurements suffice for recovering an image from compressive measurements. Finally, we demonstrate that signal recovery with a un-trained convolutional network outperforms standard l1 and total variation minimization for magnetic resonance imaging (MRI).

研究の動機と目的

• 訓練されておらず、パrameter数が少ない畳み込みネットワークが、線形逆問題の正則化に有効な画像の事前分布として機能するかどうかを調査すること。
• このようなネットワークが、圧縮センシングの保証に類似した条件のもとで、少ない測定値から画像を回復できる理論的条件を分析すること。
• 標準的なスパース回復手法と比較して、実世界のMRI再構成タスクにおけるこれらのネットワークの性能を評価すること。
• 生成器アーキテクチャにおける固定フィルタまたはパラメータ化可能な畳み込みフィルタが、簡潔な画像表現と頑健な回復を可能にすることを示すこと。

提案手法

• 小さな潜在コードから再構成画像を生成するための、転置畳み込みのみ、ReLU活性化関数、全結合層なしの畳み込み生成器ネットワークを用いる。
• ネットワークの重みに対するラベル付きデータや重み更新は一切行わず、測定値整合性損失に基づく勾配降下法でのみ学習を行う。
• 生成器は固定補間カーネル（例：バイリニア）で初期化されるか、学習可能なフィルタを用い、潜在コードを観測された測定値に一致するように最適化する。
• 理論的分析により、区分線形画像はO(s)パラメータで表現可能であることが示され、これによりモデルのコンパクトさが説明される。
• 圧縮センシングの文脈では、回復がm ≈ N回の測定で可能であることが保証される。ここでNはネットワークパラメータ数を表す。
• MRI再構成は、フーリエドメインの測定モデルA = M·Fを用いてデータ適合性損失を最小化することで行う。ここでMはk-spaceのアンダーサンプリングマスクを表す。

実験結果

リサーチクエスチョン

• RQ1 パrameter数が少ない訓練されていない畳み込みネットワークが、逆問題の正則化に有効な画像の事前分布として機能できるか？
• RQ2 ネットワークパラメータ数と、安定した画像回復に必要な測定数との間の理論的関係は何か？
• RQ3 MRI再構成において、標準的なスパarsityに基づく手法（例：$β_1$最小化および全変動）と比較して、訓練されていない畳み込みネットワークの性能はどの程度か？
• RQ4 実際のMRI回復において、固定フィルタと学習可能なフィルタのどちらのアーキテクチャがより優れた性能を発揮するか？

主な発見

• 固定フィルタを用いた訓練されていない畳み込み生成器（ディープデコーダ）は、MRI再構成において$β_1$最小化法および全変動正則化法を上回り、fastMRIデータセットで平均34.74 dBの性能を達成した。
• k=256チャネルで最良の性能が得られ、わずかな過パrameter化が過学習を引き起こさずに結果を改善した。
• モデルが過パラメータ化されても、性能が良好に保たれるため、モデル容量に対して頑健であることが示された。
• 理論的分析により、区分線形画像はO(s)パラメータで表現可能であることが確認され、モデルのコンパクトさが説明された。
• パラメータ数に対する測定数が増加するほど再構成品質が向上し、圧縮センシング理論と整合的であった。
• 全k-spaceデータからの最小二乗再構成よりもシャープな画像が得られたため、優れた正則化効果が示された。