[논문 리뷰] Learned convex regularizers for inverse problems

Subhadip Mukherjee, Sören Dittmer외 4명|arXiv (Cornell University)|2020. 08. 06.

Medical Imaging Techniques and Applications참고 문헌 35인용 수 17

한 줄 요약

이 논문은 지정된 이미지와 정규화되지 않은 복원 결과를 구분하기 위해 적대적으로 훈련된 입력-볼록 신경망(ICNN)을 사용하여 데이터에 적응하는 강력한 볼록 정규화자를 제안한다. 이 방법은 분석적 수렴성과 안정성을 보장하며, 블러 제거와 CT 재구성에서 최신 기술 수준의 성능을 달성하고, 더 적은 파라미터와 조기 정지가 필요 없는 비볼록 대안들보다 뛰어난 성능을 보인다.

ABSTRACT

We consider the variational reconstruction framework for inverse problems and propose to learn a data-adaptive input-convex neural network (ICNN) as the regularization functional. The ICNN-based convex regularizer is trained adversarially to discern ground-truth images from unregularized reconstructions. Convexity of the regularizer is desirable since (i) one can establish analytical convergence guarantees for the corresponding variational reconstruction problem and (ii) devise efficient and provable algorithms for reconstruction. In particular, we show that the optimal solution to the variational problem converges to the ground-truth if the penalty parameter decays sub-linearly with respect to the norm of the noise. Further, we prove the existence of a sub-gradient-based algorithm that leads to a monotonically decreasing error in the parameter space with iterations. To demonstrate the performance of our approach for solving inverse problems, we consider the tasks of deblurring natural images and reconstructing images in computed tomography (CT), and show that the proposed convex regularizer is at least competitive with and sometimes superior to state-of-the-art data-driven techniques for inverse problems.

연구 동기 및 목표

• 변분 역문제에서 수작업으로 만든 사전 지식의 한계를 해결하기 위해 데이터에 적응하는 정규화를 학습하는 것.
• 전통적인 정규화 이론에 딥 러닝을 통합하면서도 볼록성을 유지하여 이론적 보장을 확보하는 것.
• 수렴성과 안정성을 보장하는 볼록이고 데이터 기반의 정규화자를 개발하는 것.
• 볼록성은 비볼록 학습 정규화자와 비교해 성능을 저하시키지 않는다는 것을 보여주는 것.
• 훈련 및 재구성 과정에서 조기 정지가 필요 없도록 과적합을 줄이는 것.

제안 방법

• 비볼록성 보장을 위해 네트워크 아키텍처에서 비음수 가중치를 사용하는 입력-볼록 신경망(ICNN)을 데이터 적응형 정규화자로 사용한다.
• 정규화자는 실제 이미지와 정규화되지 않은 복원 결과를 구분하는 적대적 손실을 통해 훈련된다.
• 각 훈련 단계 이후 음수 가중치를 0으로 클리핑함으로써 볼록성이 유지된다.
• 변분 재구성 문제는 페널티 파rameter의 하위선형 감쇠 조건 하에 수렴 보장을 갖는 경사하강법으로 해결된다.
• 하위미분 기반 알고리즘이 매개변수 공간에서 재구성 오차를 단조 감소시킴을 증명한다.
• PSNR와 시각적 비교를 통한 평가를 통해 이미지 블러 제거 및 희소 시야 CT에서 성능을 평가한다.

실험 결과

연구 질문

• RQ1 데이터 기반 정규화자는 볼록성과 동시에 효과적일 수 있는가?
• RQ2 학습된 정규화자에 볼록성을 강제로 적용하면 재구성 성능이 저하되는가?
• RQ3 적대적 훈련을 통해 수렴성과 안정성을 보장하는 볼록 정규화자를 얻을 수 있는가?
• RQ4 비볼록 대비 볼록 정규화자는 조기 정지를 필요로 하지 않게 훈련될 수 있는가?
• RQ5 더 적은 파라미터로 비볼록 대안들보다 동일하거나 더 뛰어난 성능을 내는 볼록 정규화자를 얻을 수 있는가?

주요 결과

• ACR 정규화자는 이미지 블러 제거 및 CT 재구성에서 최신 기술 수준의 방법들과 경쟁 수준 이상의 성능을 달성한다.
• 블러 제거에서 ACR는 TV보다 약 1 dB 높은 PSNR를 기록하며, 일부 경우에서 비볼록 AR 방법을 능가한다.
• ACR는 단지 TV를 0.5 dB 향상시키는 SFB 사전보다 더 나은 결과를 내며, 더 표현력 있는 볼록 모델의 이점임을 시사한다.
• 비볼록 AR 방법과 달리 ACR는 훈련 또는 재구성 과정에서 조기 정지가 필요 없어 과적합과 아티팩트 생성을 줄인다.
• 특히 저자료 환경에서 비볼록 AR 방법보다 훨씬 적은 파라미터를 사용하면서도 높은 성능를 유지한다.
• 이론적 분석을 통해 페널티 감쇠가 하위선형일 경우 반복 수에 따라 재구성 오차가 단조 감소하고 진짜 이미지로 수렴함을 확인했다.