[논문 리뷰] Robust 1-Bit Compressive Sensing via Binary Stable Embeddings of Sparse Vectors

Laurent Jacques, Jason N. Laska외 2명|arXiv (Cornell University)|2011. 04. 15.

Sparse and Compressive Sensing Techniques인용 수 20

한 줄 요약

이 논문은 이산형 안정성 임bedding을 사용하여 1비트 압축 측정 기반으로 희박 신호를 정확하게 복원할 수 있는 강건한 1비트 압축 측정 프레임워크를 제안한다. 노이즈 없는 환경에서 i.i.d. 가우시안 측정 행렬이 거의 최적의 복원 오차를 달성함을 보이며, 노이즈에 대한 강건성을 보장하기 위해 이진 ε-안정성 임bedding(BεSE) 성질을 도입한다. 이와 함께 이진 반복 하드 스레시홀딩(BIHT) 알고리즘이 1비트 CS 분야에서 최고 성능을 기록한다.

ABSTRACT

The Compressive Sensing (CS) framework aims to ease the burden on analog-to-digital converters (ADCs) by reducing the sampling rate required to acquire and stably recover sparse signals. Practical ADCs not only sample but also quantize each measurement to a finite number of bits; moreover, there is an inverse relationship between the achievable sampling rate and the bit depth. In this paper, we investigate an alternative CS approach that shifts the emphasis from the sampling rate to the number of bits per measurement. In particular, we explore the extreme case of 1-bit CS measurements, which capture just their sign. Our results come in two flavors. First, we consider ideal reconstruction from noiseless 1-bit measurements and provide a lower bound on the best achievable reconstruction error. We also demonstrate that i.i.d. random Gaussian matrices describe measurement mappings achieving, with overwhelming probability, nearly optimal error decay. Next, we consider reconstruction robustness to measurement errors and noise and introduce the Binary $\\epsilon$-Stable Embedding (B$\\epsilon$SE) property, which characterizes the robustness measurement process to sign changes. We show the same class of matrices that provide almost optimal noiseless performance also enable such a robust mapping. On the practical side, we introduce the Binary Iterative Hard Thresholding (BIHT) algorithm for signal reconstruction from 1-bit measurements that offers state-of-the-art performance.

연구 동기 및 목표

• 1비트 측정(부호만)을 사용하여 ADC 복잡도를 줄이는 실용적인 압축 측정 프레임워크를 개발한다.
• 랜덤 가우시안 행렬을 사용하여 노이즈 없는 1비트 측정에서 정확한 신호 복원을 위한 이론적 보장을 수립한다.
• 측정 노이즈나 부호 오류에 의한 부호 변화에 대한 강건성을 BεSE 성질을 통해 특성화한다.
• 1비트 CS에서 최고 성능을 기록하는 실용적인 복원 알고리즘인 이진 반복 하드 스레시홀딩(BIHT) 알고리즘을 설계하고 평가한다.

제안 방법

• 랜덤 가우시안 행렬을 사용하여 희박한 벡터를 부호만 있는 측정으로 매핑하기 위해 이진 안정성 임bedding을 사용한다.
• 노이즈로 인한 부호 변화에 의한 측정 과정의 강건성을 정량화하기 위해 이진 ε-안정성 임bedding(BεSE) 성질을 도입한다.
• 1비트 측정에 적합하게 조정된 ℓ1-최소화 기반의 볼록 최적화 방법을 사용하여 신호 복원을 수행한다.
• 반복적으로 지지 집합 추정과 신호 값 개선을 수행하는 이진 반복 하드 스레시홀딩(BIHT) 알고리즘을 제안한다.
• 추가 가우시안 노이즈 하에서 부호 오분류 확률을 정량화하기 위해 체르노프-후프딩 부등식을 분석한다.
• 적절한 조건 하에서 복원 오차가 O(K/M log(MN/K))로 감소함을 보여주는 이론적 성능 한계를 수립한다.

실험 결과

연구 질문

• RQ1 랜덤 가우시안 행렬을 사용할 때, 1비트 측정(부호만)으로부터 희박한 신호를 정확하게 복원할 수 있으며, 노이즈 없는 경우의 복원 오차의 기본 한계는 무엇인가?
• RQ2 측정값이 노이즈 또는 부호 오류로 인해 손상되었을 때, 1비트 압축 측정의 강건성을 어떻게 공식적으로 특성화할 수 있는가?
• RQ3 노이즈 없는 성능을 최적화하는 데 기여하는 동일한 측정 행렬 클래스가 노이즈 조건 하에서도 강건한 복원을 가능하게 하는가?
• RQ4 실용적이고 반복적인 복원 알고리즘이 1비트 CS에서 기존 방법들에 비해 정확도와 수렴 속도 측면에서 뛰어난 성능을 보일 수 있는가?
• RQ5 희박성 K, 측정 수 M, 신호 차원 N에 대해 복원 오차의 渐近적 스케일링은 어떻게 되는가?

주요 결과

• 노이즈 없는 1비트 CS 환경에서 도달 가능한 최적의 복원 오차는 하한으로 제한되어 있으며, i.i.d. 가우시안 행렬은 높은 확률로 거의 최적의 오차 감소를 달성한다.
• 이진 ε-안정성 임bed딩(BεSE) 성질이 도입되었으며, 노이즈로 인한 부호 변화에 대한 강건성을 특성화하고 안정적인 신호 복원을 보장한다.
• 노이즈 없는 성능을 거의 최적화하는 i.i.d. 가우시안 측정 행렬은 BεSE 성질도 만족하므로, 노이즈 조건 하에서도 강건한 복원이 가능하다.
• 이진 반복 하드 스레시홀딩(BIHT) 알고리즘은 1비트 CS에서 복원 정확도와 수렴 속도 측면에서 최고 성능을 기록한다.
• 이론적 분석을 통해 복원 오차가 O(K/M log(MN/K))로 스케일링 됨을 확인하였으며, 측정 수 M이 증가함에 따라 유리한 渐近적 성능을 보인다.
• 추가 가우시안 노이즈 하에서의 부호 오분류 확률은 e(σ,‖x‖₂) = ½ σ / √(‖x‖₂² + σ²)로 유계이며, 신호 대 노이즈 비율이 증가함에 따라 감소한다.