[논문 리뷰] Bayesian imaging using Plug & Play priors: when Langevin meets Tweedie

Rémi Laumont, Valentin De Bortoli외 4명|arXiv (Cornell University)|2021. 03. 08.

Sparse and Compressive Sensing Techniques참고 문헌 71인용 수 9

한 줄 요약

이 논문은 몬테카를로 샘플링과 최소 평균 제곱 오차 추정을 위한 베이지안 영상 프레임워크인 PnP-ULA를 소개한다. 이는 플러그 앤 플레이 사전과 조정되지 않은 랭게빈 알고리즘을 결합한 것으로, 특히 깊이 신경망 디노이징기의 경우 현실적인 가정 하에 엄밀한 수렴 보장을 확립한다. 이는 잘 정의된, 의사결정 이론적으로 최적인 베이지안 모델을 근사함을 보여준다.

ABSTRACT

Since the seminal work of Venkatakrishnan et al. in 2013, Plug & Play (PnP) methods have become ubiquitous in Bayesian imaging. These methods derive Minimum Mean Square Error (MMSE) or Maximum A Posteriori (MAP) estimators for inverse problems in imaging by combining an explicit likelihood function with a prior that is implicitly defined by an image denoising algorithm. The PnP algorithms proposed in the literature mainly differ in the iterative schemes they use for optimisation or for sampling. In the case of optimisation schemes, some recent works guarantee the convergence to a fixed point, albeit not necessarily a MAP estimate. In the case of sampling schemes, to the best of our knowledge, there is no known proof of convergence. There also remain important open questions regarding whether the underlying Bayesian models and estimators are well defined, well-posed, and have the basic regularity properties required to support these numerical schemes. To address these limitations, this paper develops theory, methods, and provably convergent algorithms for performing Bayesian inference with PnP priors. We introduce two algorithms: 1) PnP-ULA (Unadjusted Langevin Algorithm) for Monte Carlo sampling and MMSE inference; and 2) PnP-SGD (Stochastic Gradient Descent) for MAP inference. Using recent results on the quantitative convergence of Markov chains, we establish detailed convergence guarantees for these two algorithms under realistic assumptions on the denoising operators used, with special attention to denoisers based on deep neural networks. We also show that these algorithms approximately target a decision-theoretically optimal Bayesian model that is well-posed. The proposed algorithms are demonstrated on several canonical problems such as image deblurring, inpainting, and denoising, where they are used for point estimation as well as for uncertainty visualisation and quantification.

연구 동기 및 목표

• 플러그 앤 플레이 사전을 사용한 베이지안 추론을 위한 이론적으로 탄탄한 프레임워크를 수립하기 위해.
• PnP 방법에서 몬테카를로 샘플링에 대한 수렴 증명의 부재를 해결하기 위해.
• PnP-ULA가 잘 정의된, 의사결정 이론적으로 최적인 베이지안 모델을 근사함을 보여주기 위해.
• 딥 뉴럴 네트워크 디노이징기로 사전을 사용할 때 랭게빈 기반 샘플링의 수렴 보장을 제공하기 위해.
• 후행 샘플링을 통한 영상 역문제에서의 불확실성 정량화를 가능하게 하기 위해.

제안 방법

• 랭게빈 스토케스티크 미분방정식(SDE)의 옐러-마루야마 이산화에 기반한 마르코프 체인을 이용한 PnP-ULA를 제안한다.
• 트위디의 항등식을 사용하여 사전 잠재력의 기울기를 최소 제곱 오차(MMSE) 디노이징기와 연결함으로써, 프락시멀 또는 기울기 기반 근사치를 피한다.
• 랭게빈 업데이트에서 프락시멀 연산자의 대체로 디노이징기를 사용하여 최신의 딥 뉴럴 네트워크 디노이징기를 활용할 수 있도록 한다.
• 점수 함수의 리프시츠 연속성과 같은 온건한 조건 하에서 진짜 후행분포로의 총변화 거리 수렴을 확립한다.
• 모레우-요시다 포화를 이론적 다리로 삼아 PnP-ULA를 표준 베이지안 모델과 연결한다.
• 점 추정과 불확실성 정량화를 모두 포함한 이미지 왜곡 제거 및 손상 복구 작업에서 방법을 검증한다.

실험 결과

연구 질문

• RQ1 플러그 앤 플레이 사전을 사용한 몬테카를로 샘플링은 수렴 보장이 있어 엄밀히 정당화될 수 있는가?
• RQ2 PnP-ULA는 빈도주의 관점에서 의미 있는 잘 정의된 베이지안 모델을 근사하는가?
• RQ3 딥 뉴럴 네트워크 디노이징기의 성질이 PnP-ULA의 수렴성과 정확도에 어떤 영향을 미치는가?
• RQ4 PnP-ULA 하에서 도출된 베이지안 모델의 의사결정 이론적 최적성은 어떠한가?
• RQ5 PnP-ULA를 통해 영상 복원의 불확실성은 어떻게 신뢰성 있게 정량화할 수 있는가?

주요 결과

• PnP-ULA는 디노이징기의 조건이 온건하고 검증 가능할 경우 진짜 후행분포로의 총변화 거리 수렴을 달성한다.
• 알고리즘이 깊이 신경망에 의해 암묵적으로 정의된 사전을 사용하더라도, 의사결정 이론적으로 최적인 모델을 근사함을 입증한다.
• 이미지 왜곡 제거 작업에서 PnP-ULA는 심슨 이미지에서 PSNR 30.50과 SSIM 0.93을 기록했으며, α=1인 PnP-SGD를 능가했다.
• 손상 복구 작업에서 PnP-ULA는 앨리 이미지에서 PSNR 28.98과 SSIM 0.80을 기록했으며, 불확실성 맵이 가장자리와 구조적 영역 주변에 집중되어 있었다.
• 마진 표준편차를 통한 불확실성 정량화는 왜곡의 성격상 손상 복구에서 왜곡 제거보다 더 높은 불확실성을 드러내었으며, 특히 더 높은 해상도에서 두드러졌다.
• 이 방법은 신뢰할 수 있는 불확실성 시각화 및 정량화를 가능하게 하였으며, 다양한 공간 해상도에서 불확실성을 평가하기 위해 저해상도 샘플 기반 표준편차 맵을 계산하였다.