[논문 리뷰] Composite optimization for robust blind deconvolution

Vasileios Charisopoulos, Damek Davis외 2명|arXiv (Cornell University)|2019. 01. 06.

Sparse and Compressive Sensing Techniques참고 문헌 46인용 수 18

한 줄 요약

이 논문은 표준 통계적 가정 하에 최대 50%의 손상된 측정값이 존재하더라도 차원에 독립적인 수렴 속도를 보장하는 강건한 블라인드 디컨volution을 위한 복합 최적화 프레임워크를 제안한다. 증명 가능하게 효율적인 초기화와 하위기울기 및 프록시-선형 방법을 결합하여, 비미분 가능 최적화 기법을 사용해 랭크-일치 이차형 측정값으로부터 신호 쌍을 신속하고 안정적으로 복원한다. 이는 보장된 전역 수렴 성질을 가진다.

ABSTRACT

The blind deconvolution problem seeks to recover a pair of vectors from a set of rank one bilinear measurements. We consider a natural nonsmooth formulation of the problem and show that under standard statistical assumptions, its moduli of weak convexity, sharpness, and Lipschitz continuity are all dimension independent. This phenomenon persists even when up to half of the measurements are corrupted by noise. Consequently, standard algorithms, such as the subgradient and prox-linear methods, converge at a rapid dimension-independent rate when initialized within constant relative error of the solution. We then complete the paper with a new initialization strategy, complementing the local search algorithms. The initialization procedure is both provably efficient and robust to outlying measurements. Numerical experiments, on both simulated and real data, illustrate the developed theory and methods.

연구 동기 및 목표

• 노이즈가 있거나 손상된 측정값이 존재하는 상황에서 블라인드 디컨볼루션의 과제를 해결한다.
• 통계적 가정 하에 유리한 수렴 성질을 유지하는 비미분 가능 최적화 공식을 개발한다.
• 문제의 차원에 관계없이 수렴 속도가 독립적이며, 최대 50%의 측정값이 손상된 경우에도 이를 보장한다.
• 지역 최적화 방법의 전역 수렴을 보장하기 위해 증명 가능하게 효율적이고 강건한 초기화 전략을 설계한다.
• 문제의 목적 함수에 대한 약凸성, 날카움, 리프쉬츠 연속성에 대한 이론적 보장을 수립한다.

제안 방법

• 블라인드 디컨볼루션 문제를 이차형 측정 모델을 포함하는 비미분 가능 복합 최적화 문제로 공식화한다.
• 랭크-일치 측정값의 구조를 활용하여 약凸성, 날카움, 리프쉬츠 연속성의 차원에 독립적인 모듈러스를 유도한다.
• 하위기울기 및 프록시-선형 방법을 적용하여 복합 문제를 해결하고, 차원에 독립적인 수렴 속도로 전역 수렴을 보장한다.
• 상수 상대 오차 초기화를 달성하기 위해 스펙트럼 및 원자 노름 기법을 기반으로 한 새로운 초기화 절차를 도입한다.
• 강건한 통계 모델링을 통해 측정값에 최대 50%의 악성 손상이 존재하더라도 안정성을 확보한다.
• 모의 및 실세계 데이터를 대상으로 수치 실험을 수행하여 방법의 강건성과 효율성을 검증한다.

실험 결과

연구 질문

• RQ1 비미분 가능 복합 최적화 프레임워크가 통계적 가정 하에 차원에 독립적인 수렴성을 블라인드 디컨볼루션 문제에서 달성할 수 있는가?
• RQ2 측정값 손상이 존재할 경우 블라인드 디컨볼루션 문제에서 약凸성, 날카움, 리프쉬츠 연속성의 모듈러스는 어떻게 행동하는가?
• RQ3 지역 최적화 방법의 전역 수렴을 보장하기 위해 증명 가능하게 효율적인 초기화 전략을 설계할 수 있는가?
• RQ4 제안된 방법이 얼마나 많은 손상된 측정값을 견딜 수 있는가—특히 이상치 비율이 어느 정도까지 강건성을 유지하는가?
• RQ5 실세계 영상 및 신호 복원 작업에서 이 방법의 경험적 성능은 어떠한가?

주요 결과

• 표준 통계적 가정 하에 문제의 약凸성, 날카움, 리프쉬츠 연속성의 모듈러스는 모두 차원에 독립적이다.
• 최대 50%의 측정값이 노이즈에 의해 손상된 경우에도 하위기울기 및 프록시-선형 방법의 수렴 속도는 여전히 차원에 독립적이다.
• 제안된 초기화 전략은 높은 확률로 진짜 해에 대한 상수 상대 오차를 달성하여 전역 수렴을 가능하게 한다.
• 모의 데이터에 대한 수치 실험은 이론적 수렴 속도와 손상에 대한 강건성을 확인한다.
• 실제 데이터 실험은 영상 흐림 제거 및 신호 복원 작업에서 방법의 실용적 효과성을 보여준다.
• 방법은 높은 측정 노이즈 하에서도 안정성과 정확성을 유지하며, 노이즈가 많은 환경에서 기준 방법보다 뛰어난 성능을 보인다.