[논문 리뷰] Adversarial Regularizers in Inverse Problems

Sebastian Lunz, Ozan Öktem외 1명|arXiv (Cornell University)|2018. 05. 29.

Medical Imaging Techniques and Applications참고 문헌 24인용 수 79

한 줄 요약

이 논문은 신경망 기반 정규화 기능을 크리틱으로 학습시켜 ground-truth 이미지와 비정규화 재구성을 구별하게 하고, 역문제에 대한 비지도 학습을 가능하게 하며 노이즈 제거 및 CT 재구성 성능을 향상시킨다.

ABSTRACT

Inverse Problems in medical imaging and computer vision are traditionally solved using purely model-based methods. Among those variational regularization models are one of the most popular approaches. We propose a new framework for applying data-driven approaches to inverse problems, using a neural network as a regularization functional. The network learns to discriminate between the distribution of ground truth images and the distribution of unregularized reconstructions. Once trained, the network is applied to the inverse problem by solving the corresponding variational problem. Unlike other data-based approaches for inverse problems, the algorithm can be applied even if only unsupervised training data is available. Experiments demonstrate the potential of the framework for denoising on the BSDS dataset and for computed tomography reconstruction on the LIDC dataset.

연구 동기 및 목표

• 역문제에 대한 변분 프레임워크 내에서 신경망 정규화기를 도입한다.
• ground-truth 와 pseudo-inverse 재구성 간의 분포 차별화를 활용한 확장 가능한 학습 방법을 개발한다.
• 학습된 정규화기의 이론적 특성을 확립하고 분포적 거동을 분석한다.
• 감독 데이터 없이 노이즈 제거 및 CT 재구성에서의 효과를 입증한다.

제안 방법

• 변분 문제에서 손으로 설계된 정규화 대신 Psi_Theta를 정규화기로 사용하는 신경망을 도입한다.
• Psi_Theta를 크리틱으로 학습시켜 ground-truth 샘플과 pseudo-inverse 재구성을 구분하게 하며, 그래디언트 페널티가 포함된 Wasserstein-GAN 스타일 손실을 사용한다.
• 역문제를 ||Ax−y||^2 + λΨ_Θ(x) 최소화로 해결한다.
• 약한 데이터-매니폴드 가정하에서 Wasserstein 거리 감소 및 매니폴드-정렬 정규화를 이론적으로 제시한다.
• 노이즈 수준으로부터 λ를 추정하여 λ = 2 E_{e~p_n} ||A^* e||_2 로 정규화 매개변수를 추정한다.
• 접근 방식의 안정성과 수렴 특성을 논의한다.

실험 결과

연구 질문

• RQ1 신경망이 정규화 함수로 학습되어 비지도 학습 데이터 아래 역문제 재구성을 향상시킬 수 있는가?
• RQ2 학습된 정규화기의 이론적 특성(예: Wasserstein 거리 감소, 매니폴드-정렬 정규화)은 무엇인가?
• RQ3 노이즈 제거 및 CT 재구성에서의差 비교 시 기존의 변분 방법 및 감독 학습과의 비교는 어떠한가?
• RQ4 노 retraining 없이 노이즈 특성으로부터 λ를 효율적으로 추정할 수 있는가?

주요 결과

데이터셋	방법	PSNR (dB)	SSIM
BSDS500 denoising	Total Variation	26.3	0.836
BSDS500 denoising	Unsupervised Adversarial Regularizer	28.2	0.892
BSDS500 denoising	Supervised Denoising NN	28.8	0.908
LIDC CT high noise	Filtered Backprojection	14.9	0.227
LIDC CT high noise	Total Variation	27.7	0.890
LIDC CT high noise	Post-Processing (supervised)	31.2	0.936
LIDC CT high noise	RED	29.9	0.904
LIDC CT high noise	Unsupervised Adversarial Reg.	30.5	0.927
LIDC CT low noise	Filtered Backprojection	23.3	0.604
LIDC CT low noise	Total Variation	30.0	0.924
LIDC CT low noise	Post-Processing (supervised)	33.6	0.955
LIDC CT low noise	RED	32.8	0.947
LIDC CT low noise	Unsupervised Adversarial Reg.	32.5	0.946

• 적대적 정규화기가 비지도 학습 하에서 BSDS500의 노이즈 제거에서 총 변형(Total Variation)을 능가한다.
• CT 재구성(LIDC/IDRI)에서 비지도 적대적 정규화기는 많은 기저선보다 우수한 PSNR/SSIM을 제공하고 감독 후처리와도 경쟁력이 있다.
• 이 방법은 비지도 데이터만을 사용하면서 감독 방법과 비교해 유사하거나 더 나은 시각적 품질을 달성한다.
• 학습된 정규화기에 의한 그래디언트 흐름은 ground-truth 분포에 대한 Wasserstein 거리를 감소시키고 재구성 이미지를 데이터 매니폴드에 정렬한다는 이론적 결과를 보인다.
• 데이터 항 최소화에 대한 안정성 보장을 제공한다는 이론적 결과가 있다.