[논문 리뷰] Solving Linear Inverse Problems Using GAN Priors: An Algorithm with Provable Guarantees

Viraj Shah, Chinmay Hegde|arXiv (Cornell University)|2018. 02. 23.

Sparse and Compressive Sensing Techniques참고 문헌 31인용 수 14

한 줄 요약

이 논문은 압축 센싱과 같은 선형 역문제를 해결하기 위해 훈련된 GAN을 사전으로 활용하는 사영된 경사 하강법(PGD) 알고리즘을 제안하며, 수렴 보장을 보장하는 이론적 근거를 제공한다. 이 방법은 암묵 공간에서의 경사 하강을 반복적으로 수행한 후 GAN이 생성한 다양체 위로의 사영을 수행함으로써, 이전의 학습 기반 방법보다 뛰어난 재구성 정확도를 달성하며 이론적 수렴 속도를 보장한다.

ABSTRACT

In recent works, both sparsity-based methods as well as learning-based methods have proven to be successful in solving several challenging linear inverse problems. However, sparsity priors for natural signals and images suffer from poor discriminative capability, while learning-based methods seldom provide concrete theoretical guarantees. In this work, we advocate the idea of replacing hand-crafted priors, such as sparsity, with a Generative Adversarial Network (GAN) to solve linear inverse problems such as compressive sensing. In particular, we propose a projected gradient descent (PGD) algorithm for effective use of GAN priors for linear inverse problems, and also provide theoretical guarantees on the rate of convergence of this algorithm. Moreover, we show empirically that our algorithm demonstrates superior performance over an existing method of leveraging GANs for compressive sensing.

연구 동기 및 목표

• 자연 신호에 대해 분류 능력이 떨어지는 스파arsity 기반 사전의 한계를 해결하기 위해.
• GAN 사전를 사용하는 기존의 학습 기반 역문제 해법에서 이론적 수렴 보장이 부족한 문제를 해결하기 위해.
• 압축 센싱 및 이미지 재구성과 같은 역문제에서 GAN을 사전으로 사용하기 위한 체계적이고 수렴 보장이 있는 알고리즘을 개발하기 위해.
• 암묵 공간에서의 PGD와 GAN 기반 사영이 잠재 공간 최적화와 확률적 경사 하강법에 비해 더 우수한 성능을 보이는지 확인하기 위해.

제안 방법

• 알고리즘은 훈련된 생성자 네트워크 G의 범위 위로의 사영을 반복적으로 수행하는 암묵 신호 공간에서의 사영된 경사 하강법(PGD)을 사용한다.
• 사영 단계는 반복 계산값이 GAN이 모델링한 자연스러운 이미지의 다양체 내에 머물도록 보장한다.
• 생성자 G가 진짜 데이터 분포를 잘 근사한다고 가정하며, 유한한 연산자 노름과 제한된 등장성 유사 조건 하에서 이론적 수렴 속도를 도출한다.
• 적절한 학습률과 연산자 노름 제약 조건 하에서 선형 수렴 속도 α < 1을 보여준다.
• 랜덤 재시작을 피하기 위해 고정된 총 업데이트 단계 수로 알고리즘을 구현하며, 이전 연구에서의 잠재 공간 최적화와 비교한다.
• 이론적 분석은 잠재 함수 ψ(x)와 반복 간 목적 함수 값의 차이에 대한 경계를 활용하며, A와 G의 리프시츠 성질을 활용한다.

실험 결과

연구 질문

• RQ1 암묵 공간에서 GAN 사전를 사용하는 PGD 기반 알고리즘이 선형 역문제에 대해 수렴 보장을 갖는가?
• RQ2 암묵 공간에서의 PGD 성능이 잠재 공간 최적화와 확률적 경사 하강법에 비해 재구성 정확도와 수렴 안정성 측면에서 어떻게 다른가?
• RQ3 측정 연산자와 생성자 품질에 대한 현실적인 가정 하에서 GAN 사전 기반 역문제 해법의 이론적 수렴 속도는 무엇인가?
• RQ4 진짜 신호가 GAN의 지지 집합에 정확히 포함되지 않더라도 그에 가까운 경우에도 제안된 방법이 여전히 효과적인가?

주요 결과

• GAN 사전를 사용하는 PGD 알고리즘은 [17]에서 제안한 잠재 공간 최적화 방법보다 재구성 오차가 현저히 낮다. 특히 측정 수가 제한된 경우에 두드러진다.
• GAN의 지지 집합에서 온 MNIST 이미지에 대해 100개의 측정값을 사용할 경우 재구성 오차는 0에 가까워지며 유리한 조건에서 거의 완벽한 복원을 보여준다.
• 사전 훈련된 DCGAN을 사용한 CelebA 데이터셋에서, m=1000 측정값일 때 PGD-GAN 방법은 베이스라인 방법보다 눈에 띄게 선명하고 정확한 재구성을 생성한다.
• 이론적 분석을 통해 적절한 학습률과 연산자 노름 제약 조건 하에서 선형 수렴 속도 α < 1을 증명하며, 안정적이고 빠른 수렴을 보장한다.
• 명시적인 사영 단계 덕분에 국소 최솟값에 갇히는 것을 더 잘 피할 수 있어 랜덤 재시작에 의존도가 낮아진다.
• 수렴 속도는 측정 수 m에 반비례하며, δ(노이즈 관련 항목)는 m이 증가함에 따라 감소함을 보여 이론적 강건성을 뒷받침한다.