[논문 리뷰] TFPnP: Tuning-free Plug-and-Play Proximal Algorithm with Applications to Inverse Imaging Problems

Kaixuan Wei, Angelica I. Avilés-Rivero외 4명|arXiv (Cornell University)|2020. 11. 18.

Sparse and Compressive Sensing Techniques참고 문헌 207인용 수 4

한 줄 요약

이 논문은 역영상 문제에서 노이즈 제거 강도, 종료 시간 및 기타 파rameter를 자동으로 최적화하는 보정이 필요 없는 플러그 앤 플레이(proximal) 알고리즘인 TFPnP을 제안한다. 이는 하이브리드 강화학습 정책 네트워크를 사용하며, 압축 센싱 MRI 및 희박한 시야 CT와 같은 선형 및 비선형 영상 작업 전반에서 최신 기술 성능을 달성한다. 이는 반복 노이즈를 정규화하고 수작업 또는 오라클 기반 파rameter 설정을 능가하는 방식으로 달성된다.

ABSTRACT

Plug-and-Play (PnP) is a non-convex optimization framework that combines proximal algorithms, for example, the alternating direction method of multipliers (ADMM), with advanced denoising priors. Over the past few years, great empirical success has been obtained by PnP algorithms, especially for the ones that integrate deep learning-based denoisers. However, a key challenge of PnP approaches is the need for manual parameter tweaking as it is essential to obtain high-quality results across the high discrepancy in imaging conditions and varying scene content. In this work, we present a class of tuning-free PnP proximal algorithms that can determine parameters such as denoising strength, termination time, and other optimization-specific parameters automatically. A core part of our approach is a policy network for automated parameter search which can be effectively learned via a mixture of model-free and model-based deep reinforcement learning strategies. We demonstrate, through rigorous numerical and visual experiments, that the learned policy can customize parameters to different settings, and is often more efficient and effective than existing handcrafted criteria. Moreover, we discuss several practical considerations of PnP denoisers, which together with our learned policy yield state-of-the-art results. This advanced performance is prevalent on both linear and nonlinear exemplar inverse imaging problems, and in particular shows promising results on compressed sensing MRI, sparse-view CT, single-photon imaging, and phase retrieval.

연구 동기 및 목표

• 플러그 앤 플레이(PnP) 프락시멀 알고리즘을 통한 역영상 문제에서 수작업 파rameter 튜닝의 핵심 과제를 해결하기 위해.
• 노이즈 제거 강도, 종료 시간 및 최적화 전용 파arameter를 자동으로 결정하는 보정이 필요 없는 프레임워크를 개발하기 위해.
• 다양한 영상 조건과 장면 콘텐츠에서 PnP 방법의 안정성과 효율성을 향상시키기 위해.
• PnP 알고리즘에서 반복 노이즈의 통계적 성질을 조사하고, 이를 더 나은 성능 향상에 활용하기 위해.
• 수작업 또는 오라클 튜닝 기반 파arameter에 의존하지 않고 최신 기술 성능의 재구성 품질을 달성하기 위해.

제안 방법

• 모델 기반 및 모델리스 딥 강화학습 전략의 혼합을 사용하여 하이브리드 강화학습 정책 네트워크를 훈련한다.
• 정책 네트워크는 영상 및 노이즈 특성에 기반해 최적의 파arameter(예: 노이즈 제거 강도 및 정지 시간)를 선택하도록 학습된다.
• 반복 노이즈의 정규성 특성을 활용하여 노이즈 제거 효과를 향상시킨다. 이는 반복 과정에서 노이즈가 정규화됨을 기반으로 한다.
• 수렴 행동 피드백을 통해 PSNR를 최대화하고 잔차 오차를 최소화하는 보상 함수를 통해 정책을 훈련한다.
• 표준 프락시멀 알고리즘인 ADMM 및 PGM와 통합되어, 어떤 노이즈 제거기와도 플러그 앤 플레이 방식으로 사용할 수 있다.
• 실험적 분석은 반복 노이즈의 정규성 평가를 위해 정규 확률 플롯과 R²를 사용하며, 이는 재구성 품질과 상관관계가 있다.

실험 결과

연구 질문

• RQ1 학습된 정책은 수작업 튜닝 없이 PnP 프락시멀 알고리즘에서 최적의 노이즈 제거 강도와 종료 시간을 자동으로 결정할 수 있는가?
• RQ2 PnP 반복 과정에서 반복 노이즈의 정규성은 어떻게 변화하는가? 이를 통해 재구성 품질 향상을 유도할 수 있는가?
• RQ3 강화학습 기반 정책은 다양한 역영상 시나리오에서 수작업 또는 오라클 튜닝 기반 파arameter 설정을 능가할 수 있는가?
• RQ4 반복 노이즈를 정규화함으로써 다양한 영상 모odalities에서 PnP 방법의 성능 향상 정도는 어느 정도인가?
• RQ5 제안된 정책 네트워크는 선형 및 비선형 역영상 문제 전반에서 얼마나 스케일업 가능하고 일반화 가능한가?

주요 결과

• 학습된 정책는 PnP-ADMM에서 PSNR 26.41을 달성하여 일부 설정에서 오라클 정책을 능가하고, 수작업 기반 기준과 동일하거나 이를 초월한다.
• PnP-ADMM는 반복 노이즈 정규성에서 가장 높은 향상을 보였으며, R²가 0.972로 측정되어 뛰어난 재구성 품질과 상관관계가 있다.
• 압축 센싱 MRI 및 단일 광자 영상과 같은 도전적인 작업에서 고정 및 오라클 정책에 비해 PSNR와 반복 노이즈 정규성 모두에서 뚜렷한 향상이 있었다.
• 정책 네트워크는 다양한 영상 조건과 장면 콘텐츠에 효과적으로 일반화되어 수작업 파arameter 튜닝의 필요성을 줄였다.
• 정규 확률 플롯의 R²(노이즈 정규성 측정)와 PSNR 사이에 강한 정적 상관관계가 관찰되어 반복 노이즈 정규화의 중요성을 검증하였다.
• 최소한의 사용자 간섭으로도 예시 역영상 문제(희박한 시야 CT 및 단계 회복 등)에서 최신 기술 성능을 달성하였다.