[論文レビュー] Robust and interpretable blind image denoising via bias-free convolutional neural networks

Sreyas Mohan, Zahra Kadkhodaie+2 more|arXiv (Cornell University)|Jun 13, 2019

Image and Signal Denoising Methods参考文献 27被引用数 36

ひとこと要約

本論文は、CNN denoisers から加法的バイアスを取り除くことで、未知のノイズレベルに対する強力な一般化を実現し、デノising メカニズムの線形代数的解釈を提供することを示している。

ABSTRACT

Deep convolutional networks often append additive constant ("bias") terms to their convolution operations, enabling a richer repertoire of functional mappings. Biases are also used to facilitate training, by subtracting mean response over batches of training images (a component of "batch normalization"). Recent state-of-the-art blind denoising methods (e.g., DnCNN) seem to require these terms for their success. Here, however, we show that these networks systematically overfit the noise levels for which they are trained: when deployed at noise levels outside the training range, performance degrades dramatically. In contrast, a bias-free architecture -- obtained by removing the constant terms in every layer of the network, including those used for batch normalization-- generalizes robustly across noise levels, while preserving state-of-the-art performance within the training range. Locally, the bias-free network acts linearly on the noisy image, enabling direct analysis of network behavior via standard linear-algebraic tools. These analyses provide interpretations of network functionality in terms of nonlinear adaptive filtering, and projection onto a union of low-dimensional subspaces, connecting the learning-based method to more traditional denoising methodology.

研究の動機と目的

• 訓練中に見られなかったノイズレベルへ CNN denoisers がどのように一般化するかを調査する。
• 加法的バイアスが一般化とデノイジング性能に果たす役割を特定する。
• バイアスフリーなネットワークアーキテクチャを開発し、線形代数ツールを用いて局所的なデノイジングメカニズムを分析する。

提案手法

• 各層およびバッチ正規化からすべての加法定数を取り除くことで、BF-CNN (bias-free CNN) アーキテクチャを導入する。
• デノisingマップを局所線形演算子 f(y)=A_y y として解析し、ヤコビ行列に基づく検査を可能にする。
• 一階残差分解を実行して、線形成分 (A_y y) とバイアス成分 (b_y) を分離する。
• SVD/ヤコビ分析を用いて、デノイジングのための適応的で低次元の信号部分空間を示す。
• 複数のノイズレベルとデータセットで、バイアスフリーなネットワークと標準アーキテクチャ（DnCNN、Recurrent CNN、UNet、DenseNet）を比較する。

実験結果

リサーチクエスチョン

• RQ1 バイアスフリーなアーキテクチャは、学習範囲外のノイズレベルに対して一般化するか？
• RQ2 バイアスを取り除くことは、デノイジングメカニズムと解釈性にどう影響するか？
• RQ3 BF-CNNデノイジングプロセスの基盤となる線形代数的構造（ヤコビ行列、部分空間）は何か？
• RQ4 BF-CNNは、トレーニング範囲内での性能を維持しつつ、範囲外での一般化を改善するか？

主な発見

• BF-CNNsは、複数のアーキテクチャに跨って、学習範囲を超えるノイズレベルに対して頑健に一般化する。
• 加法定数を取り除くことは、バイアスCNNに観察される深刻な一般化ギャップを解消する。
• BF-CNNデノisersは、画像構造とノイズレベルに適応する重み付け関数を持つ、局所適応的な線形フィルタとして機能する。
• BF-CNNのヤコビ行列は概ね対称的であり、信号成分を保持する適応的な低次元部分空間への投影を可能にする。
• 実効的な部分空間次元はおおむね 1/σ に比例してスケールし、なぜ MSE ≈ α·σ であり、PSNR が入力 PSNR と直線的にスケールするかを説明する。
• BF-CNNは、トレーニング範囲内での性能を維持しつつ、範囲外での性能と解釈性を向上させる。