[논문 리뷰] Sparse Bayesian Learning Approach for Discrete Signal Reconstruction

Jisheng Dai, An Liu외 1명|arXiv (Cornell University)|2019. 06. 01.

Sparse and Compressive Sensing Techniques참고 문헌 46인용 수 5

한 줄 요약

이 논문은 이상적인 Dirac delta 사전확률의 비처리 가능성 문제를 다루기 위해 이산화를 유도하는 사전확률을 도입함으로써 이산 신호 복원을 위한 새로운 희박 베이지안 학습(SBL) 프레임워크를 제안한다. 변수 베이지안 추론(VBI)과 i.i.d. 가우시안 측정 행렬에 대해 일반화된 근사 메시지 전파(GAMP)를 사용하여, 희박성과 유한 알파벳 제약 조건을 동시에 활용함으로써, 기존의 SOAV 및 SBL 방법들보다 뛰어난 복원 성능을 달성한다. 특히 노이즈가 없는 환경과 i.i.d. 조건에서 뛰어난 성능을 보인다.

ABSTRACT

This study addresses the problem of discrete signal reconstruction from the perspective of sparse Bayesian learning (SBL). Generally, it is intractable to perform the Bayesian inference with the ideal discretization prior under the SBL framework. To overcome this challenge, we introduce a novel discretization enforcing prior to exploit the knowledge of the discrete nature of the signal-of-interest. By integrating the discretization enforcing prior into the SBL framework and applying the variational Bayesian inference (VBI) methodology, we devise an alternating optimization algorithm to jointly characterize the finite-alphabet feature and reconstruct the unknown signal. When the measurement matrix is i.i.d. Gaussian per component, we further embed the generalized approximate message passing (GAMP) into the VBI-based method, so as to directly adopt the ideal prior and significantly reduce the computational burden. Simulation results demonstrate substantial performance improvement of the two proposed methods over existing schemes. Moreover, the GAMP-based variant outperforms the VBI-based method with i.i.d. Gaussian measurement matrices but it fails to work for non i.i.d. Gaussian matrices.

연구 동기 및 목표

• 기본적으로 모델링 불일치로 인해 기존 압축 센싱 방법이 실패하는 임의의 유한 알파벳을 가진 이산 신호를 복원하는 데 도전한다.
• 기존 SBL 프레임워크에서 이상적인 이산화 사전확률(디랙 델타 혼합)에 대한 베이지안 추론의 비처리 가능성 문제를 해결한다.
• 알파벳에 대해 확률이 0이 되는 가정이 필요 없이, 희박성과 이산 알파벳 제약 조건을 동시에 모델링할 수 있는 처리 가능한 SBL 기반 방법을 개발한다.
• VBI 프레임워크에 GAMP를 통합하여 i.i.d. 가우시안 측정 행렬에 대해 효율적인 복원을 가능하게 하고, 계산 효율성과 성능을 향상시킨다.
• GAMP 기반 변형이 이러한 조건을 위반할 경우 실패하는 것과는 달리, 비i.i.d. 측정 행렬 조건에서도 효과적으로 작동하는 견고한 솔루션을 제공한다.

제안 방법

• 신호의 유한 알파벳 특성을 모델링하기 위해 새로운 이산화를 유도하는 사전확률(식 7)을 도입하여 처리 가능한 베이지안 추론을 가능하게 한다.
• 새로운 사전확률을 SBL 프레임워크에 통합하고, 변수 베이지안 추론(VBI)를 적용하여 신호와 초모수를 교차 최적화를 통해 동시에 추정한다.
• KL 발산 최소화를 통해 신호, 초모수, 이산 할당 변수의 변동 후행 분포에 대한 폐쇄형 업데이트 규칙을 유도한다.
• i.i.d. 가우시안 측정 행렬의 경우, GAMP를 VBI 프레임워크에 통합하여 이상적인 이산화 사전확률을 직접 활용하고 계산 복잡도를 감소시킨다.
• 희박성과 노이즈를 모델링하기 위해 감마 분포와 복소 정규 분포를 조합한 계층적 사전확률 구조를 사용하여 초모수 자동 학습을 가능하게 한다.
• 신호 추정치, 정밀도 매개변수, 이산 할당 확률을 순차적으로 갱신하는 교차 최적화 기반의 알고리즘을 구현한다.

실험 결과

연구 질문

• RQ1 이상적인 이산화 사전확률(디랙 델타 혼합)의 비처리 가능성 문제를 다룰 수 있는 처리 가능한 SBL 프레임워크를 개발할 수 있는가?
• RQ2 유한 알파벳 제약 조건을 SBL 프레임워크에 효과적으로 통합하여 기존의 표준 SBL 및 SOAV 방법을 뛰어넘는 복원 정확도를 달성할 수 있는가?
• RQ3 VBI 기반 SBL 프레임워크에 GAMP를 통합하면 i.i.d. 가우시안 측정 행렬 조건에서 계산 비용을 크게 줄이고 성능을 유지하거나 향상시킬 수 있는가?
• RQ4 비i.i.d. 가우시안 측정 행렬 조건에서 제안된 방법은 어떻게 작동하는가? 그리고 GAMP 기반 변형이 이러한 경우에 실패하는 이유는 무엇인가?
• RQ5 제안된 방법은 성공률과 기호 오차율(SER) 측면에서 SOAV, BODAMP, 표준 SBL 등의 기존 최첨단 방법들보다 얼마나 뛰어나게 성능을 발휘하는가?

주요 결과

• 제안된 VBI 기반 방법은 다양한 신호 차원과 신호 대 잡음비(SNR) 수준에서 성공률과 기호 오차율(SER) 측면에서 최첨단의 SOAV 및 표준 SBL 방법들을 일관되게 능가한다.
• i.i.d. 가우시안 측정 행렬 조건에서는 GAMP 기반 변형이 VBI 기반 방법보다 높은 성공률을 달성하여 더 뛰어난 복원 성능을 보였다.
• GAMP 기반 방법은 VBI 및 기타 솔버 대비 런타임을 크게 줄였으며, i.i.d. 조건에서 낮은 계산 비용으로 거의 최적의 성능을 달성했다.
• VBI 기반 방법은 상관성이 있는(비i.i.d.) 측정 행렬 조건에서도 견고한 성능을 유지하며, GAMP 기반 변형은 i.i.d. 가정을 위반함으로써 실패한다.
• 노이즈가 없는 조건에서 $ L=8 $, $ riangle = 0.8 $, $ N=100 $ 일 때, 제안된 VBI 방법은 성공률가 거의 1.0에 도달했고, GAMP 변형은 0.98를 초월하여 SOAV 및 BODAMP를 능가했다.
• 제안된 방법은 모든 경쟁 방법들보다 낮은 SER를 달성했으며, $ N=400 $ 및 SNR=20 dB 조건에서 SER 값이 $ 10^{-2} $ 이하로 유지되어 강력한 견고성과 정확성을 입증했다.