[논문 리뷰] Robust one-bit compressed sensing with partial circulant matrices

Sjoerd Dirksen, Shahar Mendelson|arXiv (Cornell University)|2018. 12. 17.

Sparse and Compressive Sensing Techniques인용 수 4

한 줄 요약

이 논문은 부분 순환 측정 행렬을 사용하여 구조적이고 효율적으로 구현 가능한 강건한 1비트 압축 측정 프레임워크를 제안한다. 이는 이산화된 양의 전측정 노이즈와 악성 비트 전환을 포함한 현실적인 노이즈 조건 하에서 최적의 샘플 복잡도를 달성한다. 이는 델타 양자화와 볼록 최적화를 통해 이루어지며, 높은 노이즈 수준에서도 희소 신호를 정확하게 복원함을 보장한다.

ABSTRACT

We present optimal sample complexity estimates for one-bit compressed sensing problems in a realistic scenario: the procedure uses a structured matrix (a randomly sub-sampled circulant matrix) and is robust to analog pre-quantization noise as well as to adversarial bit corruptions in the quantization process. Our results imply that quantization is not a statistically expensive procedure in the presence of nontrivial analog noise: recovery requires the same sample size one would have needed had the measurement matrix been Gaussian and the noisy analog measurements been given as data.

연구 동기 및 목표

• 실제 노이즈 조건, 즉 상당한 아날로그 전측정 노이즈와 악성 비트 오염을 고려한 1비트 압축 측정의 복원 성능 향상을 위한 격차를 메우기 위해.
• 실세계 응용에서 실현 불가능한 i.i.d. 가우시안 행렬 대신, 특히 부분 순환 행렬을 포함한 구조적 측정 행렬을 사용하여 실용적인 솔루션을 개발하기 위해.
• 비현실적인 노이즈 수준이 존재하는 상황에서도 최적의 샘플 복잡도를 달성하여, 가우시안 행렬의 이론적 성능을 유지하면서도 계산 및 구현 가능성을 확보하기 위해.
• 아날로그 노이즈가 존재할 경우, 양자화가 통계적으로 비용이 많이 들지 않음을 입증함으로써, 비양자화된 가우시안 경우와 동일한 수의 샘플이 필요하다는 점을 보여주기 위해.

제안 방법

• 측정 행렬로 부분 순환 행렬을 사용하여, 물리적 시스템에서 효율적으로 실현 가능한 구조적 특성을 확보함으로써 실용적 구현을 가능하게 한다.
• 균일 분포에서 추출한 랜덤 임계값을 이용한 델타 양자화를 적용하여, 양자화 과정을 안정화시키고 노이즈에 대한 강건성을 확보한다.
• 1비트 측정치가 노이즈 및 비트 전환에 의해 손상된 상황에서 희소 신호를 복원하기 위해 일반화된 라소 또는 $\rho$-정규화 프로그램을 사용한 볼록 최적화를 적용한다.
• 구조적 행렬을 위한 수정된 성장 성질을 사용하여 복원 보장을 확립함으로써, 희소 집합의 행렬에 의한 상사가 서브가우시안 유형의 농도를 만족함을 보여준다.
• 서브가우시안 및 꼬리가 두꺼운 노이즈 모델을 사용하여 샘플 복잡도의 경계를 유도하며, 노이즈 수준, 신호 희소성, 원하는 정확도에 대한 명시적 의존성을 포함한다.
• 이중성 기반 분석 프레임워크를 사용하여 오차를 관심 집합의 가우시안 폭에 따라 경계함으로써, 구조적 행렬과 양자화된 데이터에 특화된 분석을 수행한다.

실험 결과

연구 질문

• RQ1 i.i.d. 가우시안 행렬 대신 부분 순환 행렬과 같은 구조적 측정 행렬을 사용할 경우, 1비트 압축 측정이 최적의 샘플 복잡도를 달성할 수 있는가?
• RQ2 1비트 압축 측정에서 아날로그 전측정 노이즈와 악성 비트 오염에 모두 강건한 복원을 달성하기 위한 방법은 무엇인가?
• RQ3 실제 노이즈 조건 하에서 오차가 $\rho$ 이내가 되도록 희소 신호를 복원하기 위해 필요한 최소한의 1비트 측정 수는 얼마인가?
• RQ4 델타 양자화가 비가우시안 구조적 행렬에 대해 1비트 압축 측정의 강건성을 크게 향상시키며, 이는 날카운 샘플 복잡도 경계로 엄밀하게 형식화될 수 있는가?
• RQ5 구조적 행렬을 사용한 1비트 압축 측정의 복원 성능이 샘플 복잡도 측면에서 이상적인 가우시안 경우와 동일한 수준에 도달할 수 있는가?

주요 결과

• 제안된 방법은 로그 인자 수준까지 최적의 샘플 복잡도를 달성하며, $\rho$-정확도 복원을 위해 $m \geq c_3 \gamma_1^2 \gamma_2^2 \frac{\lambda^2 s \log(en/s)}{\rho^4}$개의 측정치가 필요하다.
• 노이즈 및 임계값 파rameter에 대한 약한 조건 하에서, 복원 오차는 $\|x^\# - x\|_2 \leq \rho$로 고확률 $1 - (s/\rho^2 n)^2$로 경계된다.
• 적절한 델타 수준 $\lambda$를 선택함으로써, 서브가우시안 및 더 두꺼운 꼬리 노이즈에 대해서도 방법이 강건함을 보장한다.
• 결과는 로그 인자 수준까지 최소화 최적이며, 이는 이 설정에서 다른 어떤 방법도 더 나은 샘플 복잡도를 달성할 수 없음을 의미한다.
• 부분 순환 행렬의 사용은 이론적 보장을 유지하면서도 실용적 구현을 가능하게 하여, 실세계 신호 측정에 적합한 프레임워크를 제공한다.
• 일반화된 라소 및 $\ell_2$-투영 기반 솔버와 같은 대체 복원 프로그램도 동일한 복원 보장을 달성하며, 구현의 유연성을 제공한다.