[논문 리뷰] An inner-loop free solution to inverse problems using deep neural networks

Qi Wei, Kai Fan외 2명|arXiv (Cornell University)|2017. 09. 06.

Numerical methods in inverse problems참고 문헌 23인용 수 16

한 줄 요약

이 논문은 두 개의 사전 훈련된 딥 네ural 네트워크를 사용하여 내부 루프가 없는 ADMM 프레임워크를 제안한다: 암시적 사전 정규화를 위한 조건부 노이즈 제거 오토에인코더와 행렬 역행렬을 근사하기 위한 구조적 CNN으로, 선형 시간 업데이트를 가능하게 한다. 이 방법은 전통적인 내부 루프가 있는 ADMM에 비해 최신 기술 수준의 정확도와 성능 향상을 달성했으며, 초해상도 및 색상화 작업을 포함한 합성 및 실재 데이터셋에서 검증되었다.

ABSTRACT

We propose a new method that uses deep learning techniques to accelerate the popular alternating direction method of multipliers (ADMM) solution for inverse problems. The ADMM updates consist of a proximity operator, a least squares regression that includes a big matrix inversion, and an explicit solution for updating the dual variables. Typically, inner loops are required to solve the first two sub-minimization problems due to the intractability of the prior and the matrix inversion. To avoid such drawbacks or limitations, we propose an inner-loop free update rule with two pre-trained deep convolutional architectures. More specifically, we learn a conditional denoising auto-encoder which imposes an implicit data-dependent prior/regularization on ground-truth in the first sub-minimization problem. This design follows an empirical Bayesian strategy, leading to so-called amortized inference. For matrix inversion in the second sub-problem, we learn a convolutional neural network to approximate the matrix inversion, i.e., the inverse mapping is learned by feeding the input through the learned forward network. Note that training this neural network does not require ground-truth or measurements, i.e., it is data-independent. Extensive experiments on both synthetic data and real datasets demonstrate the efficiency and accuracy of the proposed method compared with the conventional ADMM solution using inner loops for solving inverse problems.

연구 동기 및 목표

• 내부 루프 반복으로 인한 계산적 병목 현상, 특히 행렬 역행렬과 사전 정규화로 인한 문제를 해결한다.
• 반복적 해법을 학습된 딥 네럴 네트워크 매핑으로 대체하여 ADMM 하위 문제에서 반복적 해법이 필요 없도록 한다.
• 사전 훈련된 두 개의 딥 네트워크를 통해 근사적 추론을 활용하여 내부 루프 없이도 빠른 추론을 가능하게 한다: 하나는 거리 연산자(사전)를 위한 것이고, 다른 하나는 행렬 역행렬을 위한 것이다.
• 행렬 역행렬 네트워크의 데이터에 독립적인 훈련 전략을 개발하여 다양한 내부 문제에 재사용 가능하게 한다.
• 역행렬 네트워크의 지표가 없는 데이터가 필요 없이도 이미지 복원 및 초해상도에서 높은 성능을 달성한다.

제안 방법

• 측정값과 진짜 이미지의 쌍으로 훈련된 조건부 노이즈 제거 오토에인코더(cDAE)를 사용하여 표준 ADMM의 거리 연산자를 대체함으로써 데이터에 의존하는 사전를 암시적으로 학습한다.
• cDAE를 통한 암시적 추론을 활용하여 ADMM 반복 과정에서 반복 최적화 없이도 빠른 1회성 추론을 가능하게 한다.
• 최소 제곱 하위 문제에서 계산 비용이 큰 행렬 역행렬을 입력에서 출력으로 매핑하는 학습 가능한 컨volution 네트워크로 대체한다.
• 행렬 역행렬 네트워크를 진짜 데이터가 아닌 노이즈와 전방 모델 출력만을 사용하여 훈련함으로써 데이터에 독립적이며 다양한 내부 문제에 재사용 가능하게 한다.
• 공간적 구조를 유지하고 효율적인 추론을 가능하게 하기 위해 z 업데이트 단계에 대칭적이고 완전 컨volution 네트워크 아키텍처를 설계한다.
• 두 네트워크를 ADMM 프레임워크에 통합하여, 각 ADMM 반복이 두 개의 사전 훈련된 네트워크를 통과하는 단일 전방 전파만을 요구하게 하여 내부 루프 반복을 완전히 제거한다.

실험 결과

연구 질문

• RQ1 딥 네럴 네트워크를 사용하여 ADMM 기반 내부 문제 해법에서 내부 루프 반복을 제거할 수 있는가?
• RQ2 조건부 노이즈 제거 오토에인코더가 반복적 거리 최소화를 단일 전방 전파로 효과적으로 대체할 수 있는가?
• RQ3 컨volution 네트워크가 진짜 데이터가 없이도 큰 행렬 역행렬을 근사할 수 있는가?
• RQ4 제안된 내부 루프가 없는 방법이 기존의 내부 루프가 있는 ADMM에 비해 복원 정확도를 유지하거나 향상시키는가?
• RQ5 행렬 역행렬 네트워크는 데이터에 독립적인 방식으로 훈련되며 다양한 내부 문제에 일반화될 수 있는가?

주요 결과

• 제안된 방법은 기존의 ADMM에 비해 빠른 성능 향상을 보였으며, 각 ADMM 반복이 반복적 해법 대신 두 개의 사전 훈련된 네트워크를 통과하는 단일 전방 전파만으로 이루어져 있다.
• 조건부 노이즈 제거 오토에인코더는 효과적으로 데이터에 의존하는 사전를 학습하여 암시적 추론을 통해 정확한 신호 복원을 가능하게 했다.
• 행렬 역행렬 네트워크는 진짜 데이터가 아닌 노이즈와 전방 모델 출력만을 사용하여 성공적으로 훈련되었으며, 높은 정확도를 달성했다.
• 합성 및 실재 데이터셋, 특히 초해상도 및 동시 초해상도 및 색상화 작업에서, 제안된 방법은 복원 정확도와 계산 효율성 면에서 기존의 ADMM을 능가했다.
• 행렬 역행렬 네트워크가 데이터에 독립적이므로 다양한 내부 문제에 잘 일반화되었으며, 다양한 문제에 재사용 가능했다.
• 픽셀 샤프닝과 적대적 손실의 사용은 특히 고해상도 이미지에서 훈련 안정성과 성능을 향상시켰다.