[論文レビュー] Diffusion Posterior Sampling for General Noisy Inverse Problems

Hyungjin Chung, Jeongsol Kim+3 more|arXiv (Cornell University)|Sep 29, 2022

Advanced X-ray Imaging Techniques被引用数 151

ひとこと要約

Diffusion Posterior Sampling（DPS）は、SVDに頼らず、非線形前方モデルと測定ノイズ（GaussianおよびPoisson）を含む一般的なノイズの多い逆問題を扱う拡散モデルベースのソルバーを一般化し、多様なタスクで高品質な再構成を実現します。

ABSTRACT

Diffusion models have been recently studied as powerful generative inverse problem solvers, owing to their high quality reconstructions and the ease of combining existing iterative solvers. However, most works focus on solving simple linear inverse problems in noiseless settings, which significantly under-represents the complexity of real-world problems. In this work, we extend diffusion solvers to efficiently handle general noisy (non)linear inverse problems via approximation of the posterior sampling. Interestingly, the resulting posterior sampling scheme is a blended version of diffusion sampling with the manifold constrained gradient without a strict measurement consistency projection step, yielding a more desirable generative path in noisy settings compared to the previous studies. Our method demonstrates that diffusion models can incorporate various measurement noise statistics such as Gaussian and Poisson, and also efficiently handle noisy nonlinear inverse problems such as Fourier phase retrieval and non-uniform deblurring. Code available at https://github.com/DPS2022/diffusion-posterior-sampling

研究の動機と目的

• Diffusion priorsで一般的なノイズのある（非）線形逆問題を解決する動機づけ。
• 明示的な時間依存リ likelihoodsを用いずに測定尤度を組み込んだ扱いやすいポスタサンプリング法を開発する。
• Unified DPSフレームワーク内でGaussianおよびPoissonノイズを扱えるようにする。
• SVDを高コストで回避し、画像ドメインで完全に操作して効率的な実装を実現する。
• inpainting、super-resolution、deblurring、非線形位相復元など、多様な問題でDPSを実証する。

提案手法

• データ事前分布を denoising score network s_theta* によってモデリングするために、denoising score matchingで訓練されたVP-SDE/DDPMを利用する。
• Tweedeianスタイルの関係式を用いて、x_hat_0 ≈ (1/√(ᾱ(t))) (x_t + (1−ᾱ(t)) s_theta*(x_t, t))として、p(y|x_t)をp(y|x_hat_0)で近似し、ポスターヨリの推定を tractableに導く。次に、x_hat_0はE[x_0|x_t]である。
• Gaussianの場合は ∇_{x_t} log p_t(x_t|y)をs_theta*(x_t, t) − ρ ∇_{x_t} || y − A(x_hat_0) ||^2 とし、Poissonの場合は ∇_{x_t} log p_t(x_t|y) ≈ s_theta*(x_t, t) − ρ ∇_{x_t} || y − A(x_hat_0) ||^2_{Λ}、ここで ρ = 1/σ^2、Λはポアソン重みを符号化する。
• SVDを回避するために完全に画像ドメインで動作し、非線形前方モデルA(·)を許容する。
• ノイズのある測定に対してステップサイズを安定化させるディスクリートアルゴリズム（DPS-GaussianおよびDPS-Poisson）を提供する。

実験結果

リサーチクエスチョン

• RQ1 拡散ベースの事前分布を、非線形前方モデルを含む一般的なノイズの多い逆問題へ拡張できるか。
• RQ2 測定空間投影に頼らずに、p(y|x_t)を近似してポスタサンプリングを可能にする方法は。
• RQ3 GaussianおよびPoisson測定ノイズと非線形前方モデルを含む場合で、DPSの計算可能な定式化は成り立つか。
• RQ4 ノイズ条件下で、DPSは投影ベース法やSVD依存法より優れた再構成を出せるか。
• RQ5 フレームワークは、線形逆問題を超えるタスク（例：Fourier位相復元、非均一デブラーリング）にも対応できるか。）

主な発見

• DPSは、ノイズのある線形および非線形逆問題全体で高品質な再構成を達成する。
• inpainting、super-resolution、さまざまなデブラーリング設定などのタスクにおいて、DDRMM、MCG、PnP-ADMM、Score-SDE などのベースラインを上回る。
• 解析的に扱える尤度勾配を介してGaussianおよびPoissonノイズへ対応できる。
• DPSは画像ドメインで動作し、SVDを回避して複雑な前方モデルを効率的に扱える。
• 非線形位相復元および非線形デブラーリングにおいて、DPSは既存の拡散ベースまたは事前学習ベースのアプローチと比較して、知覚品質（FID/LPIPS）が競合的または優れている。