[논문 리뷰] Support Recovery in Universal One-bit Compressed Sensing

Arya Mazumdar, Soumyabrata Pal|arXiv (Cornell University)|2021. 07. 19.

Sparse and Compressive Sensing Techniques참고 문헌 22인용 수 7

한 줄 요약

이 논문은 소수의 가짜 양성 결과를 허용함으로써 측정 복잡도를 크게 감소시킨 보편적인 1비트 압축 측정 프레임워크를 제안한다. 보편적인 1/2-근사 지원 복원을 위해 $\tilde{O}(k^{3/2})$의 측정값을 달성하며, 신호의 다이내믹 레인지가 알려져 있을 경우 $\tilde{O}(k)$로 향상되어 보편성의 비용을 거의 제거한다.

ABSTRACT

One-bit compressed sensing (1bCS) is an extreme-quantized signal acquisition method that has been intermittently studied in the past decade. In 1bCS, linear samples of a high dimensional signal are quantized to only one bit per sample (sign of the measurement). The extreme quantization makes it an interesting case study of the more general single-index or generalized linear models. At the same time it can also be thought of as a `design' version of learning a binary linear classifier or halfspace-learning. Assuming the original signal vector to be sparse, existing results in 1bCS either aim to find the support of the vector, or approximate the signal within an $ε$-ball. The focus of this paper is support recovery, which often also computationally facilitate approximate signal recovery. A \emph{universal} measurement matrix for 1bCS refers to one set of measurements that work \emph{for all} sparse signals. With universality, it is known that $ ildeΘ(k^2)$ 1bCS measurements are necessary and sufficient for support recovery (where $k$ denotes the sparsity). In this work, we show that it is possible to universally recover the support with a small number of false positives with $ ilde{O}(k^{3/2})$ measurements. If the dynamic range of the signal vector is known, then with a different technique, this result can be improved to only $ ilde{O}(k)$ measurements. Other results on universal but approximate support recovery are also provided in this paper. All of our main recovery algorithms are simple and polynomial-time.

연구 동기 및 목표

• 보편적인 1비트 압축 측정을 통한 지원 복원의 측정 복잡도를 감소시키기 위해.
• 보편적인 지원 복원에서 측정 수와 가짜 양성 수 사이의 상호 교환 관계를 분석하기 위해.
• 소수의 가짜 양성 또는 가짜 음성 결과를 허용함으로써 거의 최적의 측정 복잡도를 달성하기 위해.
• 보편적인 근사 및 슈퍼셋 복원을 위한 측정 요구 사항에 대한 날카운 감소 하한을 설정하기 위해.
• 신호의 다이내믹 레인지 지식이 보편적인 1비트 압축 측정에서의 측정 복잡도에 미치는 영향을 탐색하기 위해.

제안 방법

• 1비트 압축 측정과 리스트-디스자턴트 행렬 간의 새로운 연결 고리를 통해 복원 보장을 유도한다.
• 크기 $k(1-2\theta)$와 $2\theta k$인 서로소 지원을 가진 신호들 간의 부호 일致성을 보장하는 측정 행렬을 구성한다.
• 조합 설계 기반의 확률적 측정 행렬 구축을 통해 $\tilde{O}(k^{3/2})$의 측정 복잡도를 달성한다.
• $(k(1-2\theta), 2\theta k)$-리스트 디스자턴트 행렬의 구조를 활용한 다항식 시간 알고리즘을 도입하여 지원 복원을 수행한다.
• 해밍 거리 $2\theta k$를 가진 부호가 동일한 $k$-스parser 신호들을 기반으로 모순 추론을 통해 하한을 도출하며, $m = \Omega(k / \epsilon \cdot \log(n/k))$ 측정값이 필수적임을 증명한다.
• 다이내믹 레인지 가정을 활용하여 측정 설계를 정교화함으로써 $\tilde{O}(k)$의 복잡도를 달성한다.

실험 결과

연구 질문

• RQ1 소수의 가짜 양성 결과를 허용함으로써 보편적인 1비트 압축 측정을 통한 지원 복원의 측정 복잡도를 $O(k^2)$ 이하로 낮출 수 있는가?
• RQ2 보편적인 $\epsilon$-근사 지원 복원을 위한 최소 측정 수는 무엇인가? ($\epsilon < 1/3$)
• RQ3 신호의 다이내믹 레인지 지식이 보편적인 1비트 압축 측정에서의 측정 복잡도에 어떤 영향을 미치는가?
• RQ4 보편적인 슈퍼셋 복원에 대한 하한이 상한 구축에 의해 달성될 수 있는가?
• RQ5 이진 측정 행렬이 보편적인 지원 복원을 위한 1비트 압축 측정에서 얼마나 효과적으로 사용될 수 있는가?

주요 결과

• 논문은 $\epsilon < 1/3$일 때 최대 $\epsilon k$개의 가짜 양성 결과를 허용하면서도 $\tilde{O}(k^{3/2})$의 측정값으로 보편적인 지원 복원을 달성하여 $O(k^2)$의 기존 상한을 크게 감소시킨다.
• 신호의 다이내믹 레인지가 알려져 있을 경우 측정 복잡도는 $\tilde{O}(k)$로 감소하며 보편성의 비용을 거의 제거한다.
• 보편적인 $\epsilon$-근사 지원 복원을 위한 하한 $\Omega\left(\frac{k}{\epsilon} \left(\log \frac{k}{\epsilon}\right)^{-1} \log \frac{n-k}{\epsilon k}\right)$을 확립하여 제안된 방법의 거의 최적성임을 보여준다.
• 결과는 보편적인 $\epsilon$-슈퍼셋 복원으로도 확장되며, 동일한 하한이 적용되어 슈퍼셋 복원이 근사 복원만큼 어렵다는 것을 시사한다.
• 논문은 보편적인 $\epsilon$-근사 지원 복원을 위한 모든 측정 행렬이 $m = \Omega\left(\frac{k}{\epsilon} \log \frac{n-k}{\epsilon k}\right)$를 가져야 하며, 이는 상한과 로그 인자 외에는 일치함을 증명한다.
• 저자들은 고급 다항식 구축을 통해 $\tilde{O}(k^{3/2})$ 상한을 $\tilde{O}(k)$로 향상시킬 수 있으며, 이로써 하한과의 격차를 완전히 메울 수 있을 것이라 추측한다.