[논문 리뷰] Unsupervised Learning with Stein's Unbiased Risk Estimator

Christopher A. Metzler, Ali Mousavi외 2명|arXiv (Cornell University)|2018. 05. 26.

Sparse and Compressive Sensing Techniques참고 문헌 48인용 수 60

한 줄 요약

본 논문은 Stein의 Unbiased Risk Estimator (SURE) 및 그 일반화가 ground-truth 이미지 없이 CNN을 이용한 이미지 노이즈 제거 및 복구를 학습시키는 방법을 보여준다. 데이터가 없거나, 노이즈가 섞인 학습 데이터를 사용한 노이즈 제거, 그리고 노이즈 측정을 통한 압축센싱까지 포함한다.

ABSTRACT

Learning from unlabeled and noisy data is one of the grand challenges of machine learning. As such, it has seen a flurry of research with new ideas proposed continuously. In this work, we revisit a classical idea: Stein's Unbiased Risk Estimator (SURE). We show that, in the context of image recovery, SURE and its generalizations can be used to train convolutional neural networks (CNNs) for a range of image denoising and recovery problems without any ground truth data. Specifically, our goal is to reconstruct an image $x$ from a noisy linear transformation (measurement) of the image. We consider two scenarios: one where no additional data is available and one where we have measurements of other images that are drawn from the same noisy distribution as $x$, but have no access to the clean images. Such is the case, for instance, in the context of medical imaging, microscopy, and astronomy, where noise-less ground truth data is rarely available. We show that in this situation, SURE can be used to estimate the mean-squared-error loss associated with an estimate of $x$. Using this estimate of the loss, we train networks to perform denoising and compressed sensing recovery. In addition, we also use the SURE framework to partially explain and improve upon an intriguing results presented by Ulyanov et al. in "Deep Image Prior": that a network initialized with random weights and fit to a single noisy image can effectively denoise that image. Public implementations of the networks and methods described in this paper can be found at https://github.com/ricedsp/D-AMP_Toolbox.

연구 동기 및 목표

• 라벨이 없는 노이즈 데이터에서 이미지 복구를 학습하는 동기를 부여한다.
• SURE가 깨끗한 타깃 없이 노이즈 제거 및 복구를 위한 MSE 손실을 추정할 수 있음을 시연한다.
• 노이즈가 있는 학습 데이터에서 CNN 디노이저를 학습시킬 수 있음을 보인다.
• 선형 측정 모델에서 H와 노이즈 모델이 알려진 경우 GSURE로 확장한다.
• 깊은 이미지 프라이어(Deep Image Prior)와 발산이 추정기의 분산에 대한 프록시로 작용하는 것을 이해한다.

제안 방법

• 노이즈가 있는 y에 대해 f_theta(y+epsilon b)를 Monte Carlo 샘플링하여 발산 추정을 위한 SURE, MC-SURE를 제시한다.
• 학습 데이터가 없는 노이즈 제거에 SURE를 적용한다(Deep Image Prior 변형). CNN을 학습시켜 노이즈 관찰치를 디노이즈된 출력으로 매핑한다.
• 실제 MSE가 아닌 SURE 손실을 최소화하여 노이즈가 있는 학습 데이터에서 CNN 디노이저를 학습한다.
• LDAMP를 사용하여 노이즈 측정에서 CS를 확장하고, MSE, SURE, GSURE 학습 목표를 비교한다.
• y = Hx + w로 알려진 노이즈 특성을 가진 선형 측정 모델에 대해 P를 H의 정의역으로 투사하여 GSURE를 사용한다.

실험 결과

연구 질문

• RQ1 깨끗한 이미지가 이용 불가능할 때 SURE가 이미지 복구를 위한 MSE 손실의 편향 없는 추정치를 제공할 수 있는가?
• RQ2 SURE/GSURE 손실을 사용하여 그라운드 트루스 데이터 없이 CNN을 디노이저 학습시킬 수 있는가?
• RQ3 노이즈가 있는 데이터에서 SURE로 학습하는 것과 실제 MSE로 학습하는 것 또는 CS 태스크에서 GSURE로 학습하는 것의 차이는 무엇인가?

주요 결과

• SURE는 어떠한 ground-truth 데이터 없이도 디노이저를 학습하도록 한다.
• 노이즈 데이터에서 SURE로 학습된 DnCNN은 깨끗한 데이터에서 MSE로 학습된 네트워크와 거의 비슷한 성능을 보인다.
• 대규모의 학습되지 않은 U-net도 SURE로 학습될 때 경쟁력 있는 디노이징 성능을 달성할 수 있으나 감독 학습이나 사전 학습된 방법보다는 느리다.
• SURE로 학습된 LDAMP는 CS 복구 성능이 경쟁적이며 경우에 따라 BM3D-AMP와 동등하거나 GSURE 기반 변형보다 빠르다.
• GSURE는 투사 거리(projection-distances)가 전체 x 재구성을 완벽히 반영하지 못하기 때문에 CS 설정에서 MSE나 SURE에 비해 성능이 떨어질 수 있다.