[論文レビュー] Solving Bilinear Inverse Problems using Deep Generative Priors.

Muhammad Asim, Fahad Shamshad+1 more|arXiv (Cornell University)|Feb 12, 2018

Sparse and Compressive Sensing Techniques被引用数 19

ひとこと要約

本稿では、測定値 y = A(w,x) から2つの未知変数 w と x を回復することを目的とする双線形逆問題（BIPs）を解くための深層生成事前分布フレームワークを提案する。w と x を低次元の潜在コードでパラメータ化された深層生成モデルの出力としてモデル化することで、探索空間を縮小し、効果的な交互最適化を可能にし、ノイズが存在する状況下でも、実データセットにおけるブラインド画像のぼかし除去において最先端の結果を達成する。

ABSTRACT

This paper proposes a new framework to handle the bilinear inverse problems (BIPs): recover $\boldsymbol{w}$, and $\boldsymbol{x}$ from the measurements of the form $\boldsymbol{y} = \mathcal{A}(\boldsymbol{w},\boldsymbol{x})$, where $\mathcal{A}$ is a bilinear operator. The recovery problem of the unknowns $\boldsymbol{w}$, and $\boldsymbol{x}$ can be formulated as a non-convex program. A general strategy is proposed to turn the ill-posed BIP to a relatively well-conditioned BIP by imposing a structural assumption that $\boldsymbol{w}$, and $\boldsymbol{x}$ are members of some classes $\mathcal{W}$, and $\mathcal{X}$, respectively, that are parameterized by unknown latent low-dimensional features. We learn functions mapping from the hidden feature space to the ambient space for each class using generative models. The resulting reduced search space of the solution enables a simple alternating gradient descent scheme to yield promising result in solving the non-convex BIP. To demonstrate the performance of our algorithm, we choose an important BIP; namely, blind image deblurring as a motivating application. We show through extensive experiments that this technique shows promising results in deblurring images of real datasets and is also robust to noise perturbations.

研究の動機と目的

• 双線形逆問題（BIPs）の不適切な定式化に取り組むこと。ここでは、w と x が未知であり、唯一観測可能なのはそれらの双線形測定値 y = A(w,x) である。
• w と x が低次元の潜在特徴でパラメータ化された多様体に属するという構造的事前分布を活用することで、解の安定性と精度を向上させる。
• w と x の環境空間への写像を学習する生成モデルを用いることで、スケーラブルで効果的な最適化戦略を開発する。
• 特に実世界の画像データに対して、重要な BIP であるブラインド画像のぼかし除去において、本手法の有効性を示す。

提案手法

• w と x をそれぞれ潜在コード z_w と z_x でパラメータ化された深層生成モデル G_w(·) と G_x(·) の出力としてモデル化し、低次元の構造的事前分布を強制する。
• 測定値整合性項 ∥y − A(G_w(z_w), G_x(z_x))∥² を最小化する非凸最適化問題として BIP の回復を定式化する。
• 1つの潜在コードを更新しながら他方を固定するステップごとに交互勾配降下法を用いて、z_w と z_x を同時に最適化する。
• 変分オートエンコーダーまたは類似のフレームワークを用いて、生成モデル G_w と G_x を学習し、モデルが w と x の本質的構造を捉えるようにする。
• ぼかしカーネルとクリア画像を潜在空間からの生成物としてモデル化することで、ブラインド画像のぼかし除去に本フレームワークを適用する。
• 測定値に摂動を加えた状況での性能評価を通じて、ノイズに対するロバスト性を確保する。

実験結果

リサーチクエスチョン

• RQ1 高次元の未知変数によって不適切な定式化が生じる双線形逆問題に対して、深層生成事前分布が効果的に正則化できるか？
• RQ2 学習済みの生成モデルの出力として w と x をモデル化することで、BIP ソルバーの条件数と収束性がどのように向上するか？
• RQ3 本手法は、実世界のデータセットにおけるブラインド画像のぼかし除去において、既存の手法をどの程度上回るか？
• RQ4 実用的な画像処理応用において、測定値のノイズに対して本手法はどの程度ロバストか？

主な発見

• 本手法は、深層生成事前分布を活用することで、実画像データセットにおけるブラインド画像のぼかし除去で最先端の性能を達成する。
• 潜在空間最適化を用いることで、高次元の w と x に対する直接最適化と比較して、解の安定性と収束性が顕著に向上する。
• ノイズに対して高いロバスト性を示し、測定値に著しい摂動が加えられても、高品質な復元結果を維持する。
• 広範な実験により、潜在コード上の交互勾配降下法が高品質な解に効率的に収束することが確認された。
• w と x が生成モデルによってパラメータ化された低次元多様体上に存在するという構造的仮定が、限られた測定値からの効果的な回復を可能にする。
• 本フレームワークはブラインドデブラーにとどまらず、画像処理および信号処理分野における他の BIP への応用可能性を示しており、一般化性能が優れている。