[論文レビュー] Deep Belief Networks for Image Denoising

Mohammad Ali Keyvanrad, Mohammad Pezeshki+1 more|arXiv (Cornell University)|Dec 20, 2013

Image and Signal Denoising Methods参考文献 11被引用数 5

ひとこと要約

本稿では、最終隠れ層でノイズと画像コンテンツ特徴量を区別する能力を持つ深層信念ネットワーク（DBNs）を用いた新しい画像ノイズ除去手法を提案する。ノイズによって主に活性化されるノードを特定・抑制することで、よりクリアな画像を再構築し、加法性白色ガウスノイズ（分散0.20）を含むMNISTデータセットで平均二乗誤差（MSE）を65.9％低減した。

ABSTRACT

Deep Belief Networks which are hierarchical generative models are effective tools for feature representation and extraction. Furthermore, DBNs can be used in numerous aspects of Machine Learning such as image denoising. In this paper, we propose a novel method for image denoising which relies on the DBNs' ability in feature representation. This work is based upon learning of the noise behavior. Generally, features which are extracted using DBNs are presented as the values of the last layer nodes. We train a DBN a way that the network totally distinguishes between nodes presenting noise and nodes presenting image content in the last later of DBN, i.e. the nodes in the last layer of trained DBN are divided into two distinct groups of nodes. After detecting the nodes which are presenting the noise, we are able to make the noise nodes inactive and reconstruct a noiseless image. In section 4 we explore the results of applying this method on the MNIST dataset of handwritten digits which is corrupted with additive white Gaussian noise (AWGN). A reduction of 65.9% in average mean square error (MSE) was achieved when the proposed method was used for the reconstruction of the noisy images.

研究の動機と目的

• 深層信念ネットワーク（DBNs）の特徴表現能力を活用したディープラーニングベースの画像ノイズ除去手法の開発。
• DBNの最終隠れ層内でノイズ特徴量とクリアな画像特徴量の行動的差異をモデル化・学習すること。
• 最終層で主にノイズを表すとされるノードを特定し、無効化することでノイズ抑制を可能にすること。
• ノイズノードの抑制後に、画像コンテンツを表すノードのみを用いて再構築することで、画像再構築品質の向上を図ること。

提案手法

• MNISTデータセットのサブセットを用い、グリーディ層別事前学習アプローチを用いて、4層の隠れ層（784-1000-500-250-100）を持つDBNを訓練する。
• 各ノードの最終層における相対的活性度を、クリアな画像とそのノイズ付き対応入力をそれぞれ入力した際の活性度の差分として計算する。
• 全訓練画像にわたる平均相対的活性度が0.9以上のノードをノイズノードと特定する。
• 各ノイズノードのニュートラル（非活性）値を、訓練セット内の全クリア画像におけるそのノードの活性度の平均値として決定する。
• 訓練済みDBNにノイズ付き入力を入力し、特定されたノイズノードの値をそれぞれのニュートラル値に設定することで、ノイズ除去画像を再構築する。
• DBNの生成的再構築機能を活用し、変更された最終層活性度に基づいて入力画像を再構築することで、ノイズを効果的に除去する。

実験結果

リサーチクエスチョン

• RQ1 最終隠れ層において、画像コンテンツを表す特徴量とノイズを表す特徴量を区別できるように、DBNを学習可能か？
• RQ2 最終層ノードの相対的活性度をどのように活用すれば、主にノイズによって活性化されるノードを検出できるか？
• RQ3 特定されたノイズ活性化ノードの抑制によって、加法性白色ガウスノイズ環境下での画像再構築品質はどの程度向上するか？
• RQ4 事前学習済みDBNにおいて、ノイズ感受性ノードを特定的に無効化することで、顕著なMSE低減を達成できるか？

主な発見

• 提案手法は、ノイズ付き画像の平均二乗誤差（MSE）を0.0966からノイズノード抑制後の再構築で0.0329にまで65.9％低減した。
• ノイズ活性化ノードを除去した後、図5で視覚的に確認できるように、再構築品質が顕著に向上した。
• 平均相対的活性度が0.9を超えるノードは、信頼性高くノイズノードとして特定可能であり、DBNがノイズ挙動を強く識別可能であることを示している。
• 各ノイズノードのニュートラル値は、クリア画像における平均活性度として効果的に決定され、再構築時における一貫したノイズ抑制を可能にした。
• ノイズノードの選択的無効化後に、DBNの生成的再構築機能を活用して、ノイズのない画像を効果的に再構築できた。
• 本手法は、DBNが特徴学習に加え、隠れ層活性度の後処理を通じてターゲットノイズ抑制に応用可能であることを示した。