[논문 리뷰] Stable Signal Recovery from Incomplete and Inaccurate Measurements

Emmanuel J. Candès, Justin Romberg외 1명|ArXiv.org|2005. 03. 03.

Sparse and Compressive Sensing Techniques참고 문헌 14인용 수 14

한 줄 요약

이 논문은 측정 수가 신호 차원보다 훨씬 적은 경우에도, 희박한 신호가 불완전하고 노이즈가 있는 측정값으로부터 안정적으로 복원될 수 있음을 입증한다. 주요 결과는 측정 행렬이 충분히 작은 상수를 갖는 제한 이sov레티 조건(Restricted Isometry Property, RIP)을 만족할 경우, 복원 오차가 노이즈 수준의 상수배 이내로 제한됨을 보여준다.

ABSTRACT

Suppose we wish to recover an n-dimensional real-valued vector x_0 (e.g. a digital signal or image) from incomplete and contaminated observations y = A x_0 + e; A is a n by m matrix with far fewer rows than columns (n << m) and e is an error term. Is it possible to recover x_0 accurately based on the data y? To recover x_0, we consider the solution x* to the l1-regularization problem min \|x\|_1 subject to \|Ax-y\|_2 <= epsilon, where epsilon is the size of the error term e. We show that if A obeys a uniform uncertainty principle (with unit-normed columns) and if the vector x_0 is sufficiently sparse, then the solution is within the noise level \|x* - x_0\|_2 \le C epsilon. As a first example, suppose that A is a Gaussian random matrix, then stable recovery occurs for almost all such A's provided that the number of nonzeros of x_0 is of about the same order as the number of observations. Second, suppose one observes few Fourier samples of x_0, then stable recovery occurs for almost any set of p coefficients provided that the number of nonzeros is of the order of n/[\log m]^6. In the case where the error term vanishes, the recovery is of course exact, and this work actually provides novel insights on the exact recovery phenomenon discussed in earlier papers. The methodology also explains why one can also very nearly recover approximately sparse signals.

연구 동기 및 목표

• 측정값이 불완전하고 노이즈에 오염된 경우 희박한 신호를 복원하는 데 도전 과제를 다루기 위해.
• 측정 오차가 존재하는 상황에서 ℓ₁-최소화가 안정적인 복원을 제공할 수 있는 이론적 조건을 설정하기 위해.
• 희박한 신호에 대한 정확한 복원 결과를 실제적인 노이즈가 있는 불완전한 관측으로 확장하기 위해.
• 측정 수가 신호 차원보다 훨씬 적은 경우에도 안정적인 복원이 가능함을 보여주기 위해.
• 희박한 신호 및 압축 가능한 신호에 대한 이론적 분석과 수치 실험을 통해 ℓ₁-최소화의 강건성을 검증하기 위해.

제안 방법

• 노이즈 수준을 제한하는 ε에 대해, ‖x‖₁를 최소화하고 ‖Ax − y‖₂ ≤ ε 를 만족하는 제약 조건을 갖는 ℓ₁-최소화 프로그램으로 복원 문제를 수립한다.
• 측정 행렬 A의 특성을 기술하기 위해 제한 이sov레티 상수 δ_S 를 갖는 제한 이sov레티 성질(Restricted Isometry Property, RIP)을 도입한다.
• δ₃ₛ + 3δ₄ₛ < 2 라면, ℓ₁-최소화 문제의 해가 ℓ₂-노름에서 참 신호로부터 O(ε) 이내에 있음을 증명한다.
• 랜덤 행렬(예: 가우시안)과 푸리에 샘플링에 이 те오리를 적용하여, 각각 신호의 희박성이 O(n)과 O(n / (log m)^6) 이내일 경우 안정적인 복원이 가능함을 보여준다.
• 기울기의 희박성을 활용하기 위해 ℓ₁-최소화를 총 변동(Total Variation, TV) 최소화로 대체하여 영상 복원에 이 프레임워크를 확장한다.
• 실제로 볼록 최적화 문제를 효율적으로 해결하기 위해 제2차 원판 프로그래밍(Second-Order Cone Programming, SOCP)을 사용한다.

실험 결과

연구 질문

• RQ1 희박한 신호는 제약 조건이 있는 측정값과 노이즈가 있는 측정값으로부터 볼록 최적화를 통해 안정적으로 복원될 수 있는가?
• RQ2 측정 행렬 A에 어떤 조건이 만족되어야 ℓ₁-최소화가 노이즈 수준에 비례하는 오차로 안정적인 복원을 보장하는가?
• RQ3 신호의 희박성과 측정 행렬의 구조는 복원의 안정성과 정확성에 어떤 영향을 미치는가?
• RQ4 ℓ₁-최소화 프레임워크는 정확히 희박하지 않은 신호와 기울기의 희박성이 있는 신호 모델(예: 영상)으로 확장될 수 있는가?
• RQ5 불완전하고 노이즈가 있는 측정값으로부터 영상 복원에서 총 변동 최소화의 이론적 성능 보장은 무엇인가?

주요 결과

• ℓ₂-제약 조건을 갖는 데이터 적합성 조건을 갖는 ℓ₁-최소화 문제의 해는 참 신호로부터 ℓ₂-노름에서 C_S · ε 이내에 있다. 여기서 ε는 노이즈 에너지를 제한한다.
• 가우시안 랜덤 행렬의 경우, 신호의 비영 성분 수가 측정 수 n과 같은 주기수일 때 안정적인 복원이 가능하다.
• 푸리에 샘플링의 경우, 비영 성분 수가 O(n / (log m)^6) 이내일 때 안정적인 복원이 성립하며, 이는 거의 최적이다.
• 측정 행렬이 매우 과소정의된 경우(n ≪ m)에도 복원 오차는 노이즈 수준의 상수배로 제한된다.
• 수치 결과는 영상에서 TV 기반 복원이 ℓ₁ 기반 복원보다 더 낮은 재구성 오차와 더 적은 아티팩트를 만들어내므로 성능이 뛰어나다는 것을 보여준다.
• 이론적 보장은 압축 가능한 신호로까지 확장되며, 신호가 정확히 희박하지 않더라도 거의 최적의 복원이 가능함을 보여준다.