[논문 리뷰] One-bit compressive sensing with norm estimation

Karin Knudson, Rayan Saab외 1명|arXiv (Cornell University)|2014. 04. 28.

Sparse and Compressive Sensing Techniques참고 문헌 25인용 수 11

한 줄 요약

이 논문은 측정 모델에 애핀 양자화 이격치 $b_i$ 를 통합함으로써 희박 신호의 방향과 노름을 정확하게 복원할 수 있는 새로운 일비트 압축 측정 프레임워크를 제안한다. 임의의 $b_i$ 또는 고정된 $b_i$ 를 사용할 경우, $m \gtrsim R^4 r^{-2} \delta^{-2}$ 측정값을 통해 노름 $\|\bm{x}\|_2$ 를 덧셈 오차 $\delta$ 내에서 추정할 수 있으며, 알려진 노름 링근 내의 모든 희박 벡터에 대해 일반적인 복원 보장을 제공한다.

ABSTRACT

Consider the recovery of an unknown signal ${x}$ from quantized linear measurements. In the one-bit compressive sensing setting, one typically assumes that ${x}$ is sparse, and that the measurements are of the form $\operatorname{sign}(\langle {a}_i, {x} angle) \in \{\pm1\}$. Since such measurements give no information on the norm of ${x}$, recovery methods from such measurements typically assume that $\| {x} \|_2=1$. We show that if one allows more generally for quantized affine measurements of the form $\operatorname{sign}(\langle {a}_i, {x} angle + b_i)$, and if the vectors ${a}_i$ are random, an appropriate choice of the affine shifts $b_i$ allows norm recovery to be easily incorporated into existing methods for one-bit compressive sensing. Additionally, we show that for arbitrary fixed ${x}$ in the annulus $r \leq \| {x} \|_2 \leq R$, one may estimate the norm $\| {x} \|_2$ up to additive error $δ$ from $m \gtrsim R^4 r^{-2} δ^{-2}$ such binary measurements through a single evaluation of the inverse Gaussian error function. Finally, all of our recovery guarantees can be made universal over sparse vectors, in the sense that with high probability, one set of measurements and thresholds can successfully estimate all sparse vectors ${x}$ within a Euclidean ball of known radius.

연구 동기 및 목표

• 표준 일비트 압축 측정에서 신호 크기 정보가 부호만 측정됨으로 인해 손실되는 근본적 한계를 해결하기 위해.
• 측정 모델에 형태 $\operatorname{sign}(\langle\bm{a}_i,\bm{x}\rangle + b_i)$ 를 가진 애핀 측정을 도입하여 일비트 압축 측정에서 노름 복원을 가능하게 하기 위해.
• 알려진 노름 링근 $r \leq \|\bm{x}\|_2 \leq R$ 내의 모든 희박 벡터에 대해 일반적인 복원 보장을 제공하기 위해.
• 두 가지 별도의 방법 개발: 하나는 임의의 $b_i$ 를 사용해 방향과 노름을 동시에 복원하는 방법이며, 다른 하나는 고정된 $b_i$ 를 사용해 노름 전용 추정을 수행하는 방법이다.
• 통제된 덧셈 오차 $\delta$ 내에서 노름 추정을 위한 샘플 복잡도 한계 설정하기 위해.

제안 방법

• 애핀 양자화를 사용한 측정 모델 도입: $y_i = \operatorname{sign}(\langle\bm{a}_i,\bm{x}\rangle + b_i)$, 여기서 $\bm{a}_i$ 는 i.i.d. 표준 정규 벡터이다.
• i.i.d. 정규 분포를 가진 $b_i$ 를 사용하는 방법 제안: Plan과 Vershynin(2013)의 영감을 받은 확장된 최적화 문제를 통한 방향과 노름의 동시 복원을 가능하게 한다.
• 고정된 임계값 $b_i = \tau$ 를 사용하는 두 번째 방법 개발: 측정값의 경험적 누적분포함수(EDF)를 통해 $\|\bm{x}\|_2$ 를 추정한다.
• 고정된 $\tau$ 를 기반으로 $-1$ 측정값 비율에서 역 정규 오차 함수 평가를 수행하여 노름을 추정한다.
• 기하학적 확률과 측도 집중 이론을 활용해 일반적인 복원 보장을 도출하며, 노름 링근 내의 모든 희박 벡터에 대해 높은 확률로 성공함을 보여준다.
• 샘플 복잡도 한계 설정: $m \gtrsim R^4 r^{-2} \delta^{-2}$ 측정값이 $\|\bm{x}\|_2$ 를 덧셈 오차 $\delta$ 내에서 추정하는 데 충분하다.

실험 결과

연구 질문

• RQ1 부호 정보만 있는 일비트 측정에서 희박 신호의 노름을 복원할 수 있는가?
• RQ2 측정 모델에 애핀 이격치 $b_i$ 를 도입함으로써 일비트 압축 측정에서 노름 복원이 가능해지는가?
• RQ3 애핀 일비트 측정을 사용할 때, 노름 $\|\bm{x}\|_2$ 를 덧셈 오차 $\delta$ 내에서 추정하기 위해 필요한 최소 측정 수는 얼마인가?
• RQ4 모든 희박 벡터가 알려진 노름 링근 내에 있을 때 복원 보장이 일반적으로 적용될 수 있는가?
• RQ5 임의의 임계값 $b_i$ 와 고정된 임계값 $b_i$ 는 노름 및 신호 복원의 정확도와 강건성에 어떤 영향을 미치는가?

주요 결과

• 고정된 임계값 $b_i = \tau$ 를 사용할 경우, $m \gtrsim R^4 r^{-2} \delta^{-2}$ 개의 일비트 측정값을 통해 노름 $\|\bm{x}\|_2$ 를 덧셈 오차 $\delta$ 내에서 추정할 수 있다.
• 임의의 $b_i \sim \mathcal{N}(0, \tau^2)$ 를 사용할 경우, 확장된 최적화 프레임워크를 통해 높은 확률로 방향과 노름을 동시에 정확하게 복원할 수 있다.
• 제안된 방법들은 일반적인 복원 보장을 제공한다: 단일 셋의 측정값과 임계값으로 $r \leq \|\bm{x}\|_2 \leq R$ 를 만족하는 모든 $s$-희박 벡터 $\bm{x}$ 를 높은 확률로 복원할 수 있다.
• $PV_{\text{aug}}$ 방법(임의의 $b_i$ 를 사용)은 고정된 $\tau$ 를 사용하는 EDF 방법보다 임계값 오차에 대해 더 강건하지만, 최적의 $\tau$ 를 사용할 경우 후자는 略로 약간 더 우수한 성능를 보일 수 있다.
• 수치 실험은 두 방법 모두 측정 수 $m$ 이 증가함에 따라 오차 감소를 보이며, $\tau$ 가 $\|\bm{x}\|_2$ 와 너무 작거나 너무 클 경우 오차 곡선이 U자 형태를 띤다는 것을 확인한다.
• 이론적 분석은 고정된 $b_i$ 를 사용할 경우 희박성 가정 없이도 노름 복원이 가능함을 보여주며, 조건은 신호가 알려진 링근 내에 있을 경우이다.