[논문 리뷰] Plug-and-Play Methods Provably Converge with Properly Trained Denoisers

Ernest K. Ryu, Jialin Liu외 4명|arXiv (Cornell University)|2019. 05. 14.

Sparse and Compressive Sensing Techniques인용 수 100

한 줄 요약

논문은 Lipschitz 조건 하에서 PnP-FBS 및 PnP-ADMM의 수렴을 증명하고, 이 조건을 만족하도록 denoisers를 훈련시키기 위해 real spectral normalization (realSN)을 도입하며, 실험으로 이론을 검증한다.

ABSTRACT

Plug-and-play (PnP) is a non-convex framework that integrates modern denoising priors, such as BM3D or deep learning-based denoisers, into ADMM or other proximal algorithms. An advantage of PnP is that one can use pre-trained denoisers when there is not sufficient data for end-to-end training. Although PnP has been recently studied extensively with great empirical success, theoretical analysis addressing even the most basic question of convergence has been insufficient. In this paper, we theoretically establish convergence of PnP-FBS and PnP-ADMM, without using diminishing stepsizes, under a certain Lipschitz condition on the denoisers. We then propose real spectral normalization, a technique for training deep learning-based denoisers to satisfy the proposed Lipschitz condition. Finally, we present experimental results validating the theory.

연구 동기 및 목표

• 이미지 복원을 위해 이미지 복원 프레임워크(PnP) 내에서 형태소-정리된 denoisers의 사용을 동기부여한다.
• denoiser에 대한 Lipschitz 가정 아래에서 감소 스텝 없이 PnP-FBS와 PnP-ADMM의 수렴을 확립한다.
• Lipschitz 조건을 만족하도록 deep denoisers를 훈련시키기 위해 real spectral normalization (realSN)을 도입한다.
• Poisson 노이즈 제거, 단일 광자 이미징, CS-MRI에 걸친 이론적 결과 및 실험적 검증을 제시한다.

제안 방법

• denoisers와 근사 연산자를 통해 고정점 반복으로 PnP-FBS와 PnP-ADMM를 모델링한다.
• 가정(A): (H_sigma - I)가 Lipshitz 연속이고 상수 epsilon를 가지도록 하여 수축 증명을 가능하게 한다.
• PnP-FBS 및 PnP-DRS의 수축 인자를 도출하여 스텝 매개변수 alpha에 대한 수렴 조건을 제시한다.
• 해석적 용이를 위해 PNP-ADMM과 PNP-DRS 사이의 등가성을 보인다.
• 실전에서 Lipschitz 가정이 성립하도록 denoisers를 훈련하기 위해 real spectral normalization (realSN)을 도입한다.
• RealSN을 사용한 Gaussian-denoising 프레임의 DnCNN 및 SimpleCNN denoisers와 BM3D를 basline으로 하여 구현 및 평가를 수행한다.

실험 결과

연구 질문

• RQ1 denoisers가 비자폭(nonexpansive)이 아니거나 미분 가능한 경우 Plug-and-Play Forward-Backward Splitting (PnP-FBS) 및 PnP-ADMM는 어떤 조건에서 수렴하는가?
• RQ2 denoisers에 대한 Lipschitz-유형 제약(가정 A)이 감소하지 않는 스텝 크기에서도 수렴으로 이어지는 수축을 보장할 수 있는가?
• RQ3 실무적으로 denoisers를 Lipschitz 조건에 맞게 효과적으로 훈련하는 방법은 무엇인가?
• RQ4 realSN으로 훈련된 denoisers가 Poisson denoising, 단일 광자 이미징, CS-MRI에서 수렴 및 경험적 denoising 성능을 개선하는가?

주요 결과

• PnP-FBS 및 PnP-DRS는 가정(A)과 f의 강한 볼록성 하에서 수축적이며 고정점으로의 기하적 수렴을 보인다.
• PnP-FBS의 수렴 조건은 alpha에 대한 beta-구간이 필요하며, epsilon < 2 mu /(L - mu)일 때 존재한다.
• PnP-DRS 및 PnP-ADMM의 수렴은 epsilon과 mu를 포함하는 명시적 경계 하에서 성립하며, ADMM 고정점 결과의 경우 epsilon < 1도 필요하다.
• real spectral normalization (realSN)은 심층 denoiser의 Lipschitz 경계를 개선하여 실제로 가정(A)을 보다 현실적으로 만든다.
• Poisson 노이즈 제거 실험에서 RealSN은 수렴 동작을 개선하고, ADMM과 함께 BM3D 대비 PSNR에서 경쟁력을 보이며; 여러 작업에서 ADMM이 일반적으로 FBS보다 우수하다.
• RealSN으로 향상된 denoisers는 PnP 프레임워크에 연결될 때 CS-MRI 및 단일 광자 이미징에서 재구성 성능이 더 향상된다.