[논문 리뷰] A Dual Certificates Analysis of Compressive Off-the-Grid Recovery.

Clarice Poon, Nicolas Keriven외 1명|arXiv (Cornell University)|2018. 02. 23.

Sparse and Compressive Sensing Techniques참고 문헌 48인용 수 6

한 줄 요약

이 논문은 압축된 오프그리드 복원을 위한 双자기 증명 분석을 제시하며, 무한차원 Lasso 문제에서 희박한 측정값을 안정적으로 복원하기 위해 희박도에 비례하는(로그 인자까지 허용) 랜덤 스키티드 수가 충분함을 보여준다. 이는 최소 노름 이중 증명과 골핑 스킴 기법을 사용하여 정확한 지지 집합 안정성과 원자들의 근사적 국소화를 확립한다.

ABSTRACT

Many problems in machine learning and imaging can be framed as an infinite dimensional Lasso problem to estimate a sparse measure. This includes for instance regression using a continuously parameterized dictionary, mixture model estimation and super-resolution of images. To make the problem tractable, one typically sketches the observations (often called compressive-sensing in imaging) using randomized projections. In this work, we provide a comprehensive treatment of the recovery performances of this class of approaches, proving that (up to log factors) a number of sketches proportional to the sparsity is enough to identify the sought after measure with robustness to noise. We prove both exact support stability (the number of recovered atoms matches that of the measure of interest) and approximate stability (localization of the atoms) by extending two classical proof techniques (minimal norm dual certificate and golfing scheme certificate).

연구 동기 및 목표

• 무한차원 Lasso 문제에서 압축된 오프그리드 방법의 복원 성능을 분석하는 것.
• 희박한 측정값이 랜덤 스키티드로부터 강건하게 복원될 수 있는 조건을 설정하는 것.
• 노이즈 존재 하에서 원자들의 정확한 지지 집합 안정성과 근사적 국소화를 증명하는 것.
• 기존의 증명 기법—최소 노름 이중 증명과 골핑 스킴—을 오프그리드 복원에 통합하고 확장하는 것.

제안 방법

• 논문은 진짜 측정값의 지지 집합을 정확히 복원할 수 있도록 보장하기 위해 최소 노름 이중 증명 기법을 사용한다.
• 스키밍 과정에서의 노이즈에 대한 강건성을 확립하기 위해 골핑 스킴 증명 방법을 적용한다.
• 연속적 딕셔너리 파arameterization을 고려하여 슈퍼레졸루션 및 혼합 모델 추정과 같은 문제들을 모델링한다.
• 안정적 복원을 위해 필요한 스키티드 수에 대한 조건을 유도하며, 이 수가 희박도에 비례함을 보여주며 로그 인자까지 허용됨을 밝힌다.
• 해결책이 연속적 매개변수 공간 위의 희박한 측정값인 무한차원 Lasso 문제에 이 프레임워크를 적용한다.
• 연속적 설정에서 특정 이중성 조건을 만족하는 이중 증명을 구성함으로써 이론적 보장을 도출한다.

실험 결과

연구 질문

• RQ1 오프그리드 압축 센싱에서 희박한 측정값을 안정적으로 복원하기 위해 필요한 최소한의 랜덤 스키티드 수는 얼마인가?
• RQ2 노이즈가 있는 관측치 하에서 오프그리드 복원에 대해 정확한 지지 집합 안정성을 보장할 수 있는가?
• RQ3 회복된 원자의 국소화 오차는 노이즈와 스키티드 수에 따라 어떻게 변화하는가?
• RQ4 기존의 이중 증명 기법이 무한차원, 오프그리드 문제로 어떻게 확장되는가?
• RQ5 골핑 스킴은 연속적 매개변수 공간에서 강건성 보장을 제공하기 위해 어떻게 적응시킬 수 있는가?

주요 결과

• 측정값의 희박도에 비례하는(로그 인자까지 허용) 스키티드 수가 강건한 복원에 충분하다.
• 정확한 지지 집합 안정성이 달성되어, 복원된 원자의 수가 진짜 측정값의 수와 일치한다.
• 원자의 근사적 국소화가 보장되며, 노이즈 하에서 복원 오차가 유계임을 보장한다.
• 최소 노름 이중 증명 방법이 오프그리드 설정에서 정확한 복원을 인증하는 데 성공적으로 적용된다.
• 골핑 스킴이 노이즈에 대한 강건성을 제공하여 관측치가 손상된 경우에도 안정적인 복원을 보장한다.
• 이론적 보장은 슈퍼레졸루션 및 혼합 모델 추정을 포함한 광범위한 문제 클래스에 적용 가능하다.