[論文レビュー] Diffusion Model Based Posterior Sampling for Noisy Linear Inverse Problems

Xiangming Meng, Yoshiyuki Kabashima|arXiv (Cornell University)|Nov 20, 2022

Photoacoustic and Ultrasonic Imaging被引用数 20

ひとこと要約

本論文は、ノイズのある線形逆問題に対する高速で競争力のある再構成を可能にする、ノイズ攪乱擬似尤度スコアを用いた無情報事前を持つ拡散モデルベースのポスタサンプリング手法 DMPS を提案する。

ABSTRACT

With the rapid development of diffusion models and flow-based generative models, there has been a surge of interests in solving noisy linear inverse problems, e.g., super-resolution, deblurring, denoising, colorization, etc, with generative models. However, while remarkable reconstruction performances have been achieved, their inference time is typically too slow since most of them rely on the seminal diffusion posterior sampling (DPS) framework and thus to approximate the intractable likelihood score, time-consuming gradient calculation through back-propagation is needed. To address this issue, this paper provides a fast and effective solution by proposing a simple closed-form approximation to the likelihood score. For both diffusion and flow-based models, extensive experiments are conducted on various noisy linear inverse problems such as noisy super-resolution, denoising, deblurring, and colorization. In all these tasks, our method (namely DMPS) demonstrates highly competitive or even better reconstruction performances while being significantly faster than all the baseline methods.

研究の動機と目的

• ベイズ的枠組みで、加法性ガウスノイズを伴う線形逆問題を動機づけ、対処する。
• 拡散モデルを暗黙の事前分布として活用し、ノイズのある測定値から信号を復元する。
• 計算が困難なノイズ攪乱後の尤度スコアの閉形式近似を提供し、効率的な後方サンプリングを可能にする。
• 複数の画像復元タスクを通じてDMPSを実証し、最先端の拡散ベース手法と比較する。

提案手法

• 暗黙の拡散モデル事前分布 p(x) を用いて、ノイズのある線形逆問題を p(x|y) としてモデル化する。
• p(x0) に対する無情報事前仮定の下でノイズ攪乱された偽尤度スコア ∇x_t log p̃(y|x_t) を導出する。
• A、y、x_t、σ²、ᾱ_t を含む扱いやすい式に縮約される偽尤度スコアの閉形式解を提供する（Theorem 1）。
• A の1回の特異値分解でスコアを効率的に計算する（Corollary 1.2）。
• 事前スコアを事前学習済み拡散モデルから取り入れ、偽尤度スコアと組み合わせて逆拡散サンプリングスキームで統合する（Algorithm 1）。
• 拡散モデルの分類器ガイダンスに類似したガイダンスのためのスケーリングパラメータ λ を導入する。）

実験結果

リサーチクエスチョン

• RQ1 無情報事前に基づくノイズ攪乱後の尤度スコアの近似が、ノイズのある線形逆問題に対して正確な後方サンプリングを生み出すか。
• RQ2 DMPS は、超解像、ノイズ除去、デブレの解像、カラー化などのタスクで、既存の拡散ベース後方（例：DPS、DDNM+）と比較して推論が速く、復元品質が競争力を持つか。
• RQ3 事前学習済み拡散モデルを用いた場合、実世界データセットおよび分布外サンプルで DMPS フレームワークはどのように動作するか。
• RQ4 ノイズレベルの変動や測定演算子 A に対する DMPS のロバスト性はどのような特性を持つか。

主な発見

• DMPS は、ノイズの影響を受ける超解像、ノイズ除去、ブレ濾し、カラー化などのタスクで、PSNR、FID、LPIPS 指標が競合的または優れている。
• DMPS は DPS 法より関数評価ごとに約3倍高速に動作する。
• ノイズに対する頑健性を示し、定性的比較で DPS より自然なカラー化を示す。
• 事前学習済み ADM 拡散モデルで評価した場合、DMPS は分布内・分布外データセットの両方で高い性能を維持する。