[논문 리뷰] From Blind deconvolution to Blind Super-Resolution through convex programming

Augustin Cosse|arXiv (Cornell University)|2017. 09. 26.

Sparse and Compressive Sensing Techniques참고 문헌 40인용 수 3

한 줄 요약

이 논문은 입력 신호가 알려진 저차원 부분공간에 국한되어 있을 경우, 컨 vex 프로그래밍을 이용한 핵노름 최소화를 통해 블라인드 디컨볼루션과 블라인드 슈퍼레졸루션을 해결할 수 있음을 증명한다. 주요 결과는 환경 차원 $ L \gtrsim K^{3/2} \mu_m^2 $ 이고 입력 수 $ N \gtrsim K^{1/2} \mu_h^2 $ 일 때, 로그 요인을 제외한 범위 내에서 높은 확률로 정확한 복원이 가능하다는 것이다. 이는 네이만 급수를 통해 인증서를 구성하고, 각 항의 크기를 제어하기 위해 집중 경계를 적용함으로써 달성된다.

ABSTRACT

This paper discusses the recovery of an unknown signal $x\in \mathbb{R}^L$ through the result of its convolution with an unknown filter $h \in \mathbb{R}^L$. This problem, also known as blind deconvolution, has been studied extensively by the signal processing and applied mathematics communities, leading to a diversity of proofs and algorithms based on various assumptions on the filter and its input. Sparsity of this filter, or in contrast, non vanishing of its Fourier transform are instances of such assumptions. The main result of this paper shows that blind deconvolution can be solved through nuclear norm relaxation in the case of a fully unknown channel, as soon as this channel is probed through a few $N \gtrsim μ^2_m K^{1/2}$ input signals $x_n = C_n m_n$, $n=1,\ldots,N,$ that are living in known $K$-dimensional subspaces $C_n$ of $\mathbb{R}^L$. This result holds with high probability on the genericity of the subspaces $C_n$ as soon as $L\gtrsim K^{3/2}$ and $N\gtrsim K^{1/2}$ up to log factors. Our proof system relies on the construction of a certificate of optimality for the underlying convex program. This certificate expands as a Neumann series and is shown to satisfy the conditions for the recovery of the matrix encoding the unknowns by controlling the terms in this series. An incidental consequence of the result of this paper, following from the lack of assumptions on the filter, is that nuclear norm relaxation can be extended from blind deconvolution to blind super-resolution, as soon as the unknown ideal low pass filter has a sufficiently large support compared to the ambient dimension $L$. Numerical experiments supporting the theory as well as its application to blind super-resolution are provided.

연구 동기 및 목표

• 필터의 희박성 또는 비일관성에 대한 사전 가정 없이 블라인드 디컨볼루션을 볼록 프로그래밍을 통해 해결할 수 있는 조건을 확립하기 위해.
• 필터에 대한 제한적인 가정을 제거함으로써 핵노름 최소화의 적용 가능성을 블라인드 슈퍼레졸루션으로 확장하기 위해.
• 낮은 차원 부분공간 내에서 최소한의 프로빙 신호로 미지의 신호와 필터를 정확히 복원할 수 있는 이론적 보장을 제공하기 위해.
• 볼록 relaxation의 최적성을 검증하기 위해 네이만 급수 전개를 활용한 인증서 기반 증명 프레임워크를 개발하기 위해.

제안 방법

• 신호와 필터를 매트릭스 변수로 올려 기술함으로써 블라인드 디컨볼루션을 저질서 수치 복구 문제로 재구성하고, 저질서를 유도하기 위해 핵노름을 최소화한다.
• 정확한 복원을 위한 하위기울기 조건을 만족하는 최적성 인증서를 네이만 급수 전개 방식으로 구성한다.
• 네이만 급수의 첫 두 항은 하위지수 베르누이 불등식과 U-통계량에 대한 행렬형 로젠탈-피넬리스 불등식을 사용하여 유계화한다.
• 나머지 고차항들은 U-통계량에 대한 집중 및 분리 기법을 기반으로 한 일반적 접근을 통해 제어한다.
• 증명은 입력 신호의 에너지 분포와 필터의 푸리에 변환에 대한 에너지 분포를 측정하는 일관성 매개변수 $ \mu_m $ 과 $ \mu_h $ 를 활용한다.
• 충분히 퍼져 있는 저역통과 필터가 동일한 볼록 relaxation을 통해 복원을 가능하게 하므로, 이 프레임워크는 블라인드 슈퍼레졸루션으로 확장된다.

실험 결과

연구 질문

• RQ1 필터의 희박성 또는 비일관성에 대한 가정 없이 블라인드 디컨볼루션을 볼록 프로그래밍으로 해결할 수 있는가?
• RQ2 블라인드 디컨볼루션 설정에서 신호와 필터를 복원하기 위해 필요한 최소 입력 수는 얼마인가?
• RQ3 일반적인 필터 조건 하에서 핵노름 최소화를 블라인드 슈퍼레졸루션으로 확장할 수 있는가?
• RQ4 필터나 입력에 대한 사전 지식이 없을 때 최적성 인증서를 어떻게 구성하고 검증할 수 있는가?
• RQ5 일관성 매개변수 $ \mu_m $ 과 $ \mu_h $ 는 복원의 샘플 복잡도를 결정하는 데 어떤 역할을 하는가?

주요 결과

• 환경 차원 $ L \gtrsim K^{3/2} \mu_m^2 $ 과 입력 수 $ N \gtrsim K^{1/2} \mu_h^2 $ 일 때, 로그 요인을 제외한 범위 내에서 높은 확률로 신호와 필터를 정확히 복원할 수 있다.
• 이 방법은 알려진 $ K $-차원 부분공간에 존재하는 몇 개의 입력 신호만 필요로 하므로, 측정 수를 크게 줄일 수 있다.
• 증명 과정에서 네이만 급수를 통해 인증서를 구성하였으며, 첫 두 항은 하위지수 및 로젠탈 유형 불등식을 사용하여 유계화되었다.
• 두 번째 항은 단변량 및 교차항 기여도로 분해되며, 각각 분리 기법과 U-통계량 기법을 사용하여 유계화되었다.
• 기존 연구와 달리 이 방법은 희박성 또는 비일관성 가정이 필요 없으며, 필터의 푸리에 지지 집합이 충분히 크면 블라인드 슈퍼레졸루션에도 적용 가능하다.
• 수치 실험은 이론적 예측을 확인하고, 블라인드 슈퍼레졸루션 응용 분야에서 이 방법의 효과성을 입증한다.