[논문 리뷰] SNIPS: Solving Noisy Inverse Problems Stochastically

Bahjat Kawar, Gregory Vaksman외 1명|arXiv (Cornell University)|2021. 05. 31.

Sparse and Compressive Sensing Techniques참고 문헌 59인용 수 7

한 줄 요약

SNIPS는 노이즈 있는 선형 역문제의 사후 분포에서 고품질이고 다양한 샘플을 추출하기 위해 랭귀안 역동성과 뉴턴 방법을 조합하고 사전에 훈련된 MMSE 가우시안 노이즈 제거기의 능력을 활용하는 확률적 샘플링 알고리즘을 제안한다. 이 방법은 분해 연산자의 특이값 분해(SVD)를 이용해 사후 점수 함수를 유도함으로써, 블러링 제거, 초해상도 복원, 압축 감지 등에서 날카우며 시각적으로 정확한 복원 결과를 도출한다.

ABSTRACT

In this work we introduce a novel stochastic algorithm dubbed SNIPS, which draws samples from the posterior distribution of any linear inverse problem, where the observation is assumed to be contaminated by additive white Gaussian noise. Our solution incorporates ideas from Langevin dynamics and Newton's method, and exploits a pre-trained minimum mean squared error (MMSE) Gaussian denoiser. The proposed approach relies on an intricate derivation of the posterior score function that includes a singular value decomposition (SVD) of the degradation operator, in order to obtain a tractable iterative algorithm for the desired sampling. Due to its stochasticity, the algorithm can produce multiple high perceptual quality samples for the same noisy observation. We demonstrate the abilities of the proposed paradigm for image deblurring, super-resolution, and compressive sensing. We show that the samples produced are sharp, detailed and consistent with the given measurements, and their diversity exposes the inherent uncertainty in the inverse problem being solved.

연구 동기 및 목표

• 불안정한 역문제에서 평균 제곱오차(MSE) 기반 방법이 흐리고 세부 정보가 부족한 복원 결과를 도출하는 데서 비롯되는 한계를 해결한다.
• 측정값이 가우시안 백색 노이즈에 의해 오염된 노이즈 있는 선형 역문제에서 사후 분포로부터 샘플링하는 데 도전하는 문제를 해결한다.
• 이전에 노이즈 없는 경우에만 적용 가능했던 기존 랭귀안 기반 샘플링 방법을 현실적인 노이즈 있는 관측치를 다룰 수 있도록 일반화한다.
• 불안정한 역문제에 내재된 불확실성을 반영하는 다양한 시각적으로 고품질의 샘플을 생성한다.
• 확률적 샘플링 프레임워크에 사전에 훈련된 MMSE 노이즈 제거기를 통합하여 샘플의 정확도와 다양성을 향상시킨다.

제안 방법

• 분해 연산자 H의 특이값 분해(SVD)를 이용해 역문제의 사후 점수 함수를 구성함으로써 신호 성분을 분리한다.
• 노이즈 제거기의 변동에 대한 민감도와 신호의 특이값과의 관계를 활용해 사후 점수의 계산 가능한 근사값을 유도한다.
• 사후 로그 밀도의 헤시안에 기반한 위치 기반 스텝 크기 행렬을 사용해 랭귀안 역동성과 뉴턴 유형 업데이트를 결합한다.
• 노이즈 제거기의 자코비안과 특이값 분해를 이용해 사후 로그 밀도의 헤시안을 근사함으로써 효율적이고 안정적인 샘플링을 가능하게 한다.
• 음의 헤시안의 대각 행렬 근사를 사용해 각 신호 성분에 대해 적응형 스텝 크기를 정의함으로써 수렴성과 안정성을 향상시킨다.
• 노이즈 제거기를 랭귀안 업데이트의 점수 보정기로 통합하여 데이터와의 일致성을 유지하면서도 시각적 품질을 보존한다.

실험 결과

연구 질문

• RQ1 가우시안 백색 노이즈가 첨가된 노이즈 있는 선형 역문제에 대해 랭귀안 샘플링을 효과적으로 확장할 수 있는가?
• RQ2 분해 연산자 H가 비트리비얼하고 관측치에 노이즈가 존재할 경우, 사후 점수 함수를 계산 가능한 방식으로 어떻게 도출할 수 있는가?
• RQ3 H의 특이값 분해(SVD)가 사후 분포에서 안정적이고 효율적인 샘플링을 가능하게 하는 데 어떤 역할을 하는가?
• RQ4 사전에 훈련된 MMSE 노이즈 제거기를 확률적 샘플링 프레임워크에 통합하여 샘플 품질과 다양성을 어떻게 향상시킬 수 있는가?
• RQ5 제안된 방법이 시각적 품질과 불확실성 표현 측면에서 MSE 최소화 방법보다 어느 정도 뛰어나게 성능을 발휘하는가?

주요 결과

• SNIPS는 심각하게 손상된 관측치에 대해서도 사후 분포에서 다수의 높은 시각적 품질의 샘플을 성공적으로 생성하여, 불확실성을 효과적으로 포착할 수 있음을 보여준다.
• 생성된 샘플은 날카우며 세부 정보가 풍부하고 노이즈 있는 측정치와 일치하며, 표준 MMSE 복원 결과보다 시각적 품질에서 뛰어나다.
• 헤시안에 기반한 위치 기반 스텝 크기 행렬의 사용은 균일한 스텝 크기보다 수렴성과 안정성 향상에 크게 기여한다.
• 이미지 블러링 제거, 초해상도 복원, 압축 감지 분야에서 최신 기술 수준의 시각적 품질을 달성하며, 작업 특화 훈련에 거의 의존하지 않는다.
• 고수준의 노이즈 수준에서도 전통적인 MSE 기반 방법이 세부 정보를 유지하지 못하는 상황에서도 알고리즘이 안정적이고 효과적으로 기능한다.
• 사전에 훈련된 노이즈 제거기를 샘플링 루프에 통합함으로써 재훈련 없이도 고정밀 결과를 도출할 수 있어 실용적이고 효율적인 방법이 된다.