[논문 리뷰] Sparse Spikes Deconvolution on Thin Grids

Vincent Duval, Gabriel Peyré|arXiv (Cornell University)|2015. 03. 30.

Sparse and Compressive Sensing Techniques참고 문헌 26인용 수 14

한 줄 요약

이 논문은 얇은 격자에서 희박한 스파이크 복원 문제에 대해 Lasso 및 연속 기저 추적(C-BP) 방법의 지지 회복 성능을 분석한다. 소음이 작은 영역에서 두 방법 모두 각 진짜 스파이크 주변에 이웃하는 두 개의 스파이크가 형성됨에 따라 원래 스파이크 수의 약 두 배를 복원함을 증명한다. 이 현상은 최소 노름 쌍대 증명서의 확장 지지에 의해 지배된다. 분석은 측정값이 임계 임계값 이하일 때 압축 감지에서의 불안정성을 이해하는 통합된 프레임워크를 제공한다.

ABSTRACT

This article analyzes the recovery performance of two popular finite dimensional approximations of the sparse spikes deconvolution problem over Radon measures. We examine in a unified framework both the L1 regularization (often referred to as Lasso or Basis-Pursuit) and the Continuous Basis-Pursuit (C-BP) methods. The Lasso is the de-facto standard for the sparse regularization of inverse problems in imaging. It performs a nearest neighbor interpolation of the spikes locations on the sampling grid. The C-BP method, introduced by Ekanadham, Tranchina and Simoncelli, uses a linear interpolation of the locations to perform a better approximation of the infinite-dimensional optimization problem, for positive measures. We show that, in the small noise regime, both methods estimate twice the number of spikes as the number of original spikes. Indeed, we show that they both detect two neighboring spikes around the locations of an original spikes. These results for deconvolution problems are based on an abstract analysis of the so-called extended support of the solutions of L1-type problems (including as special cases the Lasso and C-BP for deconvolution), which are of an independent interest. They precisely characterize the support of the solutions when the noise is small and the regularization parameter is selected accordingly. We illustrate these findings to analyze for the first time the support instability of compressed sensing recovery when the number of measurements is below the critical limit (well documented in the literature) where the support is provably stable.

연구 동기 및 목표

• 희박한 스파이크 복원의 유한차원 근사에서 지지 회복 성능을 분석하기 위해.
• Lasso(ℓ¹ 정규화)와 연속 기저 추적(C-BP) 방법 간의 스파이크 탐지 정확도를 비교하기 위해.
• 왜 두 방법 모두 원래 측정치에 존재하는 스파이크 수의 약 두 배를 탐지하는지 설명하기 위해.
• 소음이 작을 때와 적절한 정규화 조건 하에서 ℓ¹ 유형 해의 확장 지지에 대한 이론적 프레임워크를 수립하기 위해.
• 측정 수가 임계 한계 이하일 때 압축 감지 복원의 불안정성에 대해 조사하기 위해.

제안 방법

• Lasso 및 C-BP를 포함한 ℓ¹ 유형 최적화 문제의 해의 확장 지지를 분석하기 위해 통합된 프레임워크를 사용한다.
• 소음이 작아지는 극한에서 해의 지지를 특성화하는 데 핵심이 되는 최소 노름 쌍대 증명서 η₀ = A*p₀를 정의한다.
• 소스 조건(dual certificate 조건)을 적용하여 해가 식별 가능한지 여부를 판단하고 지지 행동을 분석한다.
• Lasso 및 C-BP 문제의 지지를 최소 노름 증명서의 확장 지지 집합 ext(a₀) = {j : |(η₀)j| = 1}을 통해 분석한다.
• 최소 노름 증명서의 구조에 의해 각 원래 스파이크당 두 개의 스파이크가 복원되는 조건을 유도한다.
• 이전의 희박한 복원 연구를 확장하여 근접 이웃(Lasso) 및 선형 보간(C-BP) 기반 격자 근사 방법을 모두 포함한다.

실험 결과

연구 질문

• RQ1 왜 Lasso 및 C-BP 방법은 얇은 격자에서 원래 측정치에 존재하는 스파이크 수의 약 두 배를 복원하는가?
• RQ2 소음이 작은 영역에서 최소 노름 쌍대 증명서는 ℓ¹ 정규화 해의 확장 지지를 어떻게 규명하는가?
• RQ3 복원된 해의 지지가 안정적이고 식별 가능한 데 필요한 조건은 무엇인가?
• RQ4 Lasso와 C-BP 간의 확장 지지는 어떻게 다를 수 있으며, 이는 스파이크 정렬에 어떤 의미를 갖는가?
• RQ5 측정 수가 압축 감지에서 지지 회복의 안정성에 얼마나 영향을 미치며, 특히 임계 한계 이하일 경우 어떻게 되는가?

주요 결과

• 소음이 작은 영역에서 Lasso 및 C-BP 방법은 원래 스파이크 수의 약 두 배를 복원하며, 각 진짜 스파이크 주변에 이웃하는 두 개의 스파이크를 탐지한다.
• 최소 노름 쌍대 증명서의 절댓값이 1이 되는 인덱스 집합으로 정의된 해의 확장 지지가 스파이크 탐지 수의 두 배 증가를 설명한다.
• 최소 노름 쌍대 증명서 η₀ = A*p₀는 소음이 작을 때 ℓ¹ 정규화 해의 지지 행동을 유일하게 결정한다.
• 임계 측정 수 이하에서 관찰되는 압축 감지의 지지 불안정성은 확장 지지의 구조와 쌍대 증명서에 의해 분석적으로 연결된다.
• 측정 수가 부족할 때 압축 감지에서 잘 알려진 지지 불안정 현상에 대한 이론적 설명을 제공한다.
• Lasso 및 C-BP는 동일한 기반이 되는 확장 지지에 의해 지배되는 유사한 정량적 실패 모드를 보인다.