[논문 리뷰] Sigma Delta quantization with Harmonic frames and partial Fourier ensembles

Rongrong Wang|arXiv (Cornell University)|2015. 11. 18.

Sparse and Compressive Sensing Techniques참고 문헌 29인용 수 4

한 줄 요약

이 논문은 부분 푸리에 및 허미트 기저를 사용한 압축 측정에서 시그마-델타 양자화의 첫 번째 오차 감쇠 결과를 확립하며, 무작위 순열을 통한 푸리에 측정값의 재배치가 저주파 성분을 강화하고 효과적 오버샘플링을 통해 다항식 오차 감쇠를 가능하게 함을 보여준다. 이는 일阶 및 이阶 시그마-델타 양자화에서 재구성 오차가 각각 $ m^{-1/2} $ 및 $ m^{-3/2} $ 의 속도로 감쇠함을 증명하며, 이는 효과적 오버샘플링 비율에 대한 추측된 의존성과 일치한다.

ABSTRACT

Sigma Delta quantization, a quantization method which first surfaced in the 1960s, has now been used widely in various digital products such as cameras, cell phones, radars, etc. The method samples an input signal at a rate higher than the Nyquist rate, thus achieves great robustness to quantization noise. Compressed Sensing (CS) is a frugal acquisition method that utilizes the possible sparsity of the signals to reduce the required number of samples for a lossless acquisition. One can deem the reduced number as an effective dimensionality of the set of sparse signals and accordingly, define an effective oversampling rate as the ratio between the actual sampling rate and the effective dimensionality. A natural conjecture is that the error of Sigma Delta quantization, previously shown to decay with the vanilla oversampling rate, should now decay with the effective oversampling rate when carried out in the regime of compressed sensing. Confirming this intuition is one of the main goals in this direction. The study of quantization in CS has so far been limited to proving error convergence results for Gaussian and sub-Gaussian sensing matrices, as the number of bits and/or the number of samples grow to infinity. In this paper, we provide a first result for the more realistic Fourier sensing matrices. The major idea is to randomly permute the Fourier samples before feeding them into the quantizer. We show that the random permutation can effectively increase the low frequency power of the measurements, thus enhance the quality of $ΣΔ$ quantization.

연구 동기 및 목표

• 압축 측정에서 서브-가우시안에서부터 더 현실적인 푸리에 센싱 행렬로의 시그마-델타 양자화 오차 분석을 확장하기 위해.
• 희박한 신호 복원에서 시그마-델타 양자화의 오차 감쇠가 원래 샘플링 비율이 아닌 효과적 오버샘플링 비율에 의존하는지 조사하기 위해.
• 무작위 순열을 통한 푸리에 측정값의 재배치가 저주파 성분의 에너지를 향상시키고 양자화 품질을 향상시킴을 보여주기 위해.
• 현실적인 센싱 모델 하에서 오차 감쇠 속도에 대한 이론적 및 수치적 증거를 제공하기 위해.

제안 방법

• 시그마-델타 양자화 이전에 부분 푸리에 또는 허미트 기저의 행들을 무작위로 순열화하여 측정값의 저주파 성분 에너지를 증가시키기 위해.
• 무작위 순열을 적용한 측정값에 대해 일阶 및 이阶 시그마-델타 양자화기를 적용하고, 피드백을 활용하여 양자화 노이즈를 형상화하기 위해.
• 행렬 로젠탈 부등식과 제한된 이소메트릭 성질(RIP) 경계를 사용하여 희박한 신호 복원을 위한 오차 추정치를 유도하기 위해.
• 재구성에 대해 소볼레프 쌍대 복원을 적용하고, 측정 수 $ m $ 과 희박도 $ k $ 에 따라 최악의 재구성 오차를 분석하기 위해.
• 무작위 순열 하에서 일阶 시그마-델타 양자화의 재구성 오차가 $ m^{-1/2} $ 의 속도로 감쇠하고, 이阶 시그마-델타 양자화의 경우 $ m^{-3/2} $ 의 속도로 감쇠함을 증명하기 위해.
• 무작위 신호 및 무작위 순열에 대한 몬테카를로 평균을 사용하여, $ 512 $ 차원의 신호에 대해 다양한 $ m $ 과 $ k $ 를 가진 수치 실험을 수행하기 위해.

실험 결과

연구 질문

• RQ1 서브-가우시안 행렬 대신 부분 푸리에 행렬을 사용할 경우, 시그마-델타 양자화가 효과적 오버샘플링에 대해 오차 감쇠를 달성하는가?
• RQ2 푸리에 측정값의 무작위 순열이 압축 측정에서 시그마-델타 양자화의 성능을 향상시키는가?
• RQ3 허미트 기저 및 부분 푸리에 집합에서 일阶 및 이阶 시그마-델타 양자화의 정확한 오차 감쇠 속도는 무엇인가?
• RQ4 이론적 오차 경계는 $ m $ 과 $ k $ 에 대한 의존성에서 최적이 되는가?
• RQ5 무작위 양자화의 성능는 무순열 푸리에 측정값의 직접 양자화와 비교해 어떻게 되는가?

주요 결과

• 일阶 시그마-델타 양자화의 재구성 오차는 $ m^{-1/2} $ 의 속도로 감쇠하며, 이는 정리 3.2의 이론적 경계를 확인한다.
• 이阶 시그마-델타 양자화의 경우 오차는 $ m^{-3/2} $ 의 속도로 감쇠하며, 추측 3.1에서 제안한 속도를 지지한다.
• 수치 실험은 무작위 순열이 다항식 오차 감쇠를 유도하는 반면, 직접 양자화는 오차 감쇠가 없음을 확인하여 순열의 필요성을 입증한다.
• 고정된 $ m=512 $ 를 유지하고 $ k $ 를 증가시키는 시뮬레이션을 통해 정리 3.2의 오차 경계가 $ m $ 에 대해 최적이 됨을 입증한다.
• 이론적 분석은 무작위 순열이 저주파 성분을 강화하여 신호 대 노이즈 비율을 향상시키고 효과적인 노이즈 형상화를 가능하게 함을 보여준다.
• 결과적으로 효과적 오버샘플링 비율(희박도 $ k $ 에 대한 상대적 비율)이 푸리에 측정값을 사용한 압축 측정에서 오차 감쇠를 지배함을 검증하였으며, 이는 이전의 서브-가우시안 집합에서의 결과를 푸리에 집합으로 확장한다.