[논문 리뷰] Neural Proximal Gradient Descent for Compressive Imaging

Morteza Mardani, Qingyun Sun외 5명|arXiv (Cornell University)|2018. 06. 01.

Sparse and Compressive Sensing Techniques인용 수 117

한 줄 요약

이 논문은 프로시멀 gradient 반복을 전개하고 재발 ResNet으로 프로시멀 맵을 학습하여, 전통적인 CS 방법 및 비순환 네트에 비해 더 빠르고 데이터에 부합하는 MRI 재구성 및 초해상도 성능을 향상시킨다.

ABSTRACT

Recovering high-resolution images from limited sensory data typically leads to a serious ill-posed inverse problem, demanding inversion algorithms that effectively capture the prior information. Learning a good inverse mapping from training data faces severe challenges, including: (i) scarcity of training data; (ii) need for plausible reconstructions that are physically feasible; (iii) need for fast reconstruction, especially in real-time applications. We develop a successful system solving all these challenges, using as basic architecture the recurrent application of proximal gradient algorithm. We learn a proximal map that works well with real images based on residual networks. Contraction of the resulting map is analyzed, and incoherence conditions are investigated that drive the convergence of the iterates. Extensive experiments are carried out under different settings: (a) reconstructing abdominal MRI of pediatric patients from highly undersampled Fourier-space data and (b) superresolving natural face images. Our key findings include: 1. a recurrent ResNet with a single residual block unrolled from an iterative algorithm yields an effective proximal which accurately reveals MR image details. 2. Our architecture significantly outperforms conventional non-recurrent deep ResNets by 2dB SNR; it is also trained much more rapidly. 3. It outperforms state-of-the-art compressed-sensing Wavelet-based methods by 4dB SNR, with 100x speedups in reconstruction time.

연구 동기 및 목표

• 역설형 선형 역문제에서 빠르고 타당한 재구성을 고무한다.
• 학습된 사전 정보와 물리적 데이터 일치를 포함시킨다.
• 프로시멀 그래디언트 반복을 전개하여 신경망 프로시멀 그래디언트 프레임워크를 개발한다.
• 학습된 프로시멀의 수축 특성 및 실험적 수렴을 분석한다.
• 소아 MRI 재구성과 자연 이미지 초해상도에 대한 평가를 수행한다.

제안 방법

• 프로시멀 그래디언트 반복을 순환 네트워크로 형상화하여 데이터 일관된 업데이트를 모델링한다.
• 프로시멀 연산자를 다층 신경망(ResNet 기반)으로 모델링한다.
• 재구성과 측정 일관성의 혼합 손실을 포함한 경험적 위험을 최소화하여 학습 데이터를 통해 엔드-투-엔드로 학습한다.
• 데이터 적합성과 학습된 프로시멀을 연결하기 위해 s_{t+1}=g(x_t;y)와 x_{t+1}=P_ψ(s_{t+1})를 갖는 상태-공간 형태를 사용한다.
• 프로시멀 네트워크의 활성화 마스크 스킴(D(z))를 다양하게 탐색하고 ResNet/DiracNet 변형으로 기울기 소실 문제를 해결한다.

실험 결과

연구 질문

• RQ1 학습된 프로시곰 연산자를 구현하는 순환 신경망이 언더샘플링된 역문제의 재구성 품질을 향상시킬 수 있는가?
• RQ2 작은 프로시멀 블록을 반복하는 것이 MRI 재구성에서 단일 심층 네트워크보다 우수한가?
• RQ3 학습된 프로시멀에 대해 수렴성을 보장하는 수축 특성이 실험적으로 성립하는가?
• RQ4 전통 CS 기반 방법과 비순환 딥 넷에 비해 재구성 품질과 속도 측면에서 신경망형 프로시멀 접근법은 어떠한가?

주요 결과

반복 수	RB 수	학습 시간(시간)	추론 시간(초)	SNR(dB)	SSIM
10	1	2	0.04	26.07	0.9117
5	2	4	0.10	26.94	0.9221
2	5	8	0.12	26.55	0.9194
deep ResNet	10	12	0.0522	24.33	0.8810
CS-TV	n/a	n/a	1.30	22.20	0.82
CS-WV	n/a	n/a	1.16	22.51	0.86

• 단일 잔차 블록(RB)을 가진 순환 ResNet이 반복에 걸쳐 프로시멀을 효과적으로 모델링하고 MR 디테일을 드러낼 수 있다.
• 순환 아키텍처는 비순환 딥 ResNet보다 SNR에서 약 2 dB 더 나으며 학습 속도가 더 빠르다.
• 제법 CS-WV 방법보다 약 4 dB SNR 높고 재구성 시간은 최대 100배 빠르다.
• 반복 횟수(T)를 늘리면 SNR과 SSIM이 향상되지만, 많은 RB를 가진 매우 깊고 생산적인 네트워크가 단일 반복에서 비례 이득을 주지 않을 수 있다.
• MRI의 경우 10회 반복에 1 RB가 품질과 계산의 균형을 잘 이루어 임상적 사용이 가능하다.
• 수축 분석에 따르면 지배적 수축은 고정된 선형 부분에서 오고 학습된 프로시멀은 작은 교란을 야기하며, 후속 반복에서 교란 효과가 감소한다는 것을 시사한다.