[논문 리뷰] Rapid, Robust, and Reliable Blind Deconvolution via Nonconvex Optimization

Xiaodong Li, Shuyang Ling외 2명|arXiv (Cornell University)|2016. 06. 15.

Sparse and Compressive Sensing Techniques참고 문헌 35인용 수 57

한 줄 요약

이 논문은 부분공간 제약 조건 하에서 그들의 커플라션 $$\bm{f} \ast \bm{g}$$ 로부터 신호 $$\bm{f}$$ 와 $$\bm{g}$$ 를 증명 가능하게 복원할 수 있는 비볼록 정규화 그래디언트 디센트 알고리즘을 제안한다. 이 방법은 기하적 수렴 속도로 진짜 해에 수렴하며, 거의 최소 샘플 복잡도를 갖는다. 또한 노이즈에 강건하며, 엄밀한 복원 보장, 수치적 효율성, 노이즈 내성이라는 세 가지 특성을 동시에 확보한 최초의 알고리즘이다.

ABSTRACT

We study the question of reconstructing two signals $f$ and $g$ from their convolution $y = f\ast g$. This problem, known as {\em blind deconvolution}, pervades many areas of science and technology, including astronomy, medical imaging, optics, and wireless communications. A key challenge of this intricate non-convex optimization problem is that it might exhibit many local minima. We present an efficient numerical algorithm that is guaranteed to recover the exact solution, when the number of measurements is (up to log-factors) slightly larger than the information-theoretical minimum, and under reasonable conditions on $f$ and $g$. The proposed regularized gradient descent algorithm converges at a geometric rate and is provably robust in the presence of noise. To the best of our knowledge, our algorithm is the first blind deconvolution algorithm that is numerically efficient, robust against noise, and comes with rigorous recovery guarantees under certain subspace conditions. Moreover, numerical experiments do not only provide empirical verification of our theory, but they also demonstrate that our method yields excellent performance even in situations beyond our theoretical framework.

연구 동기 및 목표

• 부분공간 가정 하에서 수치적으로 효율적이고, 강건하며, 증명 가능하게 수렴하는 블라인드 디컨볼루션 알고리즘을 개발하기.
• 정보 이론적 최소값에 가까운 측정 수로 복원을 달성하기.
• 강력한 이론적 보장에도 불구하고 계산 비용이 높은 볼록 리듬화 방법의 한계를 극복하기.
• 블라인드 디컨볼루션에서 비볼록 최적화 프레임워크에 대해 엄밀한 수렴성과 노이즈 내성을 확립하기.
• 이론적 가정을 초월한 상황에서도 기존 방법보다 이론적·실제 성능에서 뛰어난 성능을 보여주기.

제안 방법

• 알고리즘은 레이즈드 매트릭스 복원 프레임워크를 통해 비볼록 최적화 문제로 공식화된 정규화 그래디언트 디센트를 사용한다.
• 좋은 초기 추측을 만드는 두 단계 전략을 활용한다. 이후 그래디언트 디센트를 통해 기하적 수렴을 달성한다.
• 최적화의 안정성과 허위 국소 최소값을 피하기 위해 정규화 항을 도입한다.
• 이론적 분석은 국소 정규성 조건과 그래디언트의 리프시츠 연속성에 기반하며, 복소수 신호에 적응된 형태로 적용된다.
• 집중 불등식과 랜덤 매트릭스 이론(예: 정리 6.2)을 사용하여 연산자 노름을 유계화하고 강건성을 확보한다.
• 알고리즘은 복소수 신호를 처리하도록 설계되었으며, 위르팅어 도함수 프레임워크를 통해 복소수 켤레 그래디언트를 사용한다.

실험 결과

연구 질문

• RQ1 비볼록 최적화 접근법이 정보 이론적 최소값에 가까운 샘플 복잡도로 블라인드 디컨볼루션에서 증명 가능한 복원을 달성할 수 있는가?
• RQ2 노이즈에 강건하고 기하적 수렴 속도를 갖는 수치적으로 효율적인 블라인드 디컨볼루션 알고리즘을 설계할 수 있는가?
• RQ3 샘플 복잡도와 계산 비용 측면에서 제안된 비볼록 방법은 볼록 리듬화 방법보다 어떻게 비교되는가?
• RQ4 신호 부분공간에 어떤 조건이 성립하면 비볼록 문제의 유일한 전역 최소값이 존재하고 허위 국소 최소값을 피할 수 있는가?
• RQ5 유한 샘플 조건 하에서도 데이터가 노이즈에 오염된 경우 알고리즘이 강건성과 수렴성을 유지할 수 있는가?

주요 결과

• 약한 부분공간 가정 하에서 측정 수가 정보 이론적 최소값 약간 초과일 경우, 제안된 알고리즘이 진짜 해로 기하적 수렴을 달성한다.
• 노이즈에 강건하며, 노이즈 수준에 비례하는 적절한 오차 한계에 대한 이론적 보장이 존재한다.
• 필요한 측정 수는 거의 최적이다. 이론적 최소값과의 차이는 로그 인자 수준이다.
• 수치 실험 결과는 이론적 가정을 초월한 상황에서도 알고리즘이 잘 작동함을 확인하며, 강력한 경험적 내성성을 시사한다.
• 이 알고리즘은 블라인드 디컨볼루션에서 수치적 효율성, 노이즈 내성, 엄밀한 복원 보장 세 가지 특성을 동시에 확보한 최초의 알고리즘이다.
• 이론적 분석은 그래디언트 디센트 경로가 진짜 해의 이웃에 머무르며, 국소 정규성과 부드러움 조건 하에서 수렴을 보장함을 밝혔다.