[논문 리뷰] Bayesian compressed sensing with new sparsity-inducing prior

Zai Yang, Lihua Xie외 1명|arXiv (Cornell University)|2012. 08. 31.

Sparse and Compressive Sensing Techniques참고 문헌 35인용 수 9

한 줄 요약

이 논문은 베이지안 압축 측정 기반에서 더 높은 희소성 신호 복원 성능을 향상시키기 위해 새로운 계층적 희소성 유도 사전분포인 일반화된 스피크-앤프-슬래브 가우시안(G-STG) 사전분포를 제안한다. 효율적인 변분 추론을 활용한 계층적 베이지안 프레임워크를 통해 기존의 SBL 방법들보다 더 희소한 해를 얻고 수렴 속도를 빠르게 하며, 합성 및 실세계 신호에서 모두 복원 정확도와 계산 속도 면에서 뛰어난 성능을 보인다.

ABSTRACT

Sparse Bayesian learning (SBL) is a popular approach to sparse signal recovery in compressed sensing (CS). In SBL, the signal sparsity information is exploited by assuming a sparsity-inducing prior for the signal that is then estimated using Bayesian inference. In this paper, a new sparsity-inducing prior is introduced and efficient algorithms are developed for signal recovery. The main algorithm is shown to produce a sparser solution than existing SBL methods while preserving their desirable properties. Numerical simulations with one-dimensional synthetic signals and two-dimensional images verify our analysis and show that for sparse signals the proposed algorithm outperforms its SBL peers in both the signal recovery accuracy and computational speed. Its improved performance is also demonstrated in comparison with other state-of-the-art methods in CS.

연구 동기 및 목표

• 베이지안 압축 측정에서 신호 복원 성능을 향상시키는 새로운 희소성 유도 사전분포를 개발하는 것.
• 기존 SBL 방법들이 희소성 및 계산 효율성 확보에 한계를 보이는 문제를 해결하는 것.
• SBL의 유용한 성질을 유지하면서 해의 희소성과 수렴 속도를 향상시키는 것.
• 닫힌 형태의 업데이트를 통해 효율적인 추론을 가능하게 하는 계층적 베이지안 프레임워크를 구현하는 것.

제안 방법

• 영점에서의 확률질량과 가우시안 스케일 혼합을 조합한 새로운 계층적 사전분포인 일반화된 스피크-앤프-슬래브 가우시안(G-STG) 사전분포를 제안한다.
• 후행 분포 추정을 위한 효율적이고 닫힌 형태의 업데이트를 가능하게 하는 변분 베이지안 추론 프레임워크를 적용한다.
• 후행 분산과 임계값을 이용해 반복적으로 지원 집합을 정밀화하는 탐욕 알고리즘을 도입한다.
• 전역 최적화(변분 추론을 통한)와 국소 정밀화(탐욕적 지원 선택을 통한)를 조합한 이중 단계 최적화를 사용한다.
• 신호 대 잡음 비율에 적응하기 위해 잡음 분산 추정 단계를 통합한다.
• G-STG 사전분포 하에서 후행 평균과 분산에 대한 해석적 표현을 유도하여 빠른 계산을 가능하게 한다.

실험 결과

연구 질문

• RQ1 압축 측정에서 기존 SBL 방법보다 더 희소한 해를 도출할 수 있도록 새로운 계층적 사전분포를 설계할 수 있는가?
• RQ2 제안된 G-STG 사전분포는 표준 SBL의 이론적 수렴 성질을 유지하는가?
• RQ3 새로운 방법은 최첨단 SBL 및 비베이지안 방법보다 더 빠른 계산 속도와 높은 복원 정확도를 달성할 수 있는가?
• RQ4 G-STG 사전분포는 정확히 희소한 신호와 압축 가능한 신호 모두에서 어떻게 성능을 발휘하는가?
• RQ5 사전분포의 구조가 해의 안정성과 노이즈에 대한 강건성에 어떤 영향을 미치는가?

주요 결과

• 비교된 모든 방법들 중에서 가장 희소한 해를 도출하였으며, 몬드리안 이미지에서 비영성 분포가 1,049개로, BCS(1,305개)와 라플라스(1,218개)를 모두 능가한다.
• 몬드리안 이미지에서 복원 정확도 측면에서 평균 RMSE가 0.1448을 기록하였으며, 신호의 정확한 희소성 부재로 인해 BCS(0.1423)와 라플라스(0.1429)에 비해 略로 높은 수치를 기록하였다.
• SBL 동료들 중에서 가장 빠른 속도를 기록하였으며, 몬드리안 이미지에서 평균 CPU 시간은 21.3초로, BCS(27.2초)와 라플라스(25.7초)를 모두 앞섰다.
• 일차원 합성 신호에서 제안된 알고리즘이 SBL, BCS, 라플라스에 비해 뛰어난 복원 정확도와 속도를 보였다.
• 100회의 시행 동안 가장 안정적인 성능을 보였으며, RMSE와 비영성 항목 수의 표준편차가 가장 낮았다.
• 합성 및 이미지 복원 실험을 통해 G-STG 사전분포가 라플라스 및 BCS 사전분포보다 더 빠른 수렴 속도와 더 나은 희소성 성능을 보였다.