[논문 리뷰] Bayesian Optimal Approximate Message Passing to Recover Structured Sparse Signals

Martin Mayer, Norbert Goertz|arXiv (Cornell University)|2015. 08. 05.

Sparse and Compressive Sensing Techniques참고 문헌 37인용 수 7

한 줄 요약

이 논문은 BOSSAMP을 제안하며, 이는 구조적 희박성(예: 그룹 또는 공동 희박 신호)을 이용하여 압축 감지 복원 성능을 햖थ한 새로운 베이지안 최적 근사 메시지 전달 알고리즘이다. 외부 그룹 업데이트 단계를 통해 그룹 내 요소들 간의 우도 비율을 반복적으로 교환하고, 부드러운 정보를 기반으로 사전 확률를 업데이트함으로써, 낮은 계산 복잡도로도 최신 기술인 HGAMP 및 GLASSO를 능가하는 우수한 복원 성능을 달성한다.

ABSTRACT

We present a novel compressed sensing recovery algorithm - termed Bayesian Optimal Structured Signal Approximate Message Passing (BOSSAMP) - that jointly exploits the prior distribution and the structured sparsity of a signal that shall be recovered from noisy linear measurements. Structured sparsity is inherent to group sparse and jointly sparse signals. Our algorithm is based on approximate message passing that poses a low complexity recovery algorithm whose Bayesian optimal version allows to specify a prior distribution for each signal component. We utilize this feature in order to establish an iteration-wise extrinsic group update step, in which likelihood ratios of neighboring group elements provide soft information about a specific group element. Doing so, the recovery of structured signals is drastically improved. We derive the extrinsic group update step for a sparse binary and a sparse Gaussian signal prior, where the nonzero entries are either one or Gaussian distributed, respectively. We also explain how BOSSAMP is applicable to arbitrary sparse signals. Simulations demonstrate that our approach exhibits superior performance compared to the current state of the art, while it retains a simple iterative implementation with low computational complexity.

연구 동기 및 목표

• 압축 감지에서 노이즈가 있는 선형 측정치로부터 구조적 희박한 신호(예: 그룹 또는 공동 희박 신호)를 복원하는 문제에 대응하기 위해.
• 베이지안 최적 근사 메시지 전달(BAMP) 프레임워크에 신호 구조에 대한 사전 지식을 통합하여 복원 성능을 향상시키기 위해.
• 간단함을 유지하면서도 재구성 정확도를 크게 향상시키는 저복잡도의 반복 알고리즘을 개발하기 위해.
• 이진 또는 가우시안 사례를 초월하여 임의의 희박한 사전 확률을 가진 중첩된 그룹을 가진 신호의 효율적인 복원을 가능하게 하기 위해.

제안 방법

• BOSSAMP은 외부 그룹 업데이트 단계를 도입하여 베이지안 최적 근사 메시지 전달(BAMP)을 확장함으로써, 이웃 그룹 요소들로부터 유도된 우도 비율을 누적하여 대상 요소의 희박성에 대한 믿음을 향상시킨다.
• 알고리즘은 터보 원리에 따라 그룹 내 요소들 간에 부드러운 정보를 교환하며, 특정 항목이 0 또는 비영일 확률을 그룹의 나머지 부분으로부터의 외부 증거에 기반해 업데이트한다.
• 각 신호 성분에 대해, 외부 그룹 업데이트에서 유도된 믿음을 사용하여 사전 분포를 동적으로 업데이트함으로써, 후속 MMSE 추정 단계의 정확도를 향상시킨다.
• 희박한 이진 및 희박한 가우시안(Bernoulli-Gaussian) 사전 확률 하에서 외부 업데이트에 대한 닫힌 형태의 표현식을 유도하여 효율적인 구현을 가능하게 한다.
• 알고리즘은 반복마다 오직 두 번의 행렬-벡터 곱셈만을 요구하며, 행렬 역행렬 계산을 피하므로 낮은 계산 복잡도를 확보한다.
• 사전 업데이트 메커니즘을 적응시킴으로써, 가우시안 혼합 모델을 포함한 임의의 희박한 신호에 일반화 가능하다.

실험 결과

연구 질문

• RQ1 신호의 구조적 희박성은 기존 BAMP를 초월하여 압축 감지 복원 성능을 향상시키는 데 효과적으로 활용될 수 있는가?
• RQ2 이웃 그룹 요소들로부터의 외부 정보를 통합함으로써, 그룹 희박 설정에서의 신호 재구성 정확도는 어떻게 향상되는가?
• RQ3 단계 전이와 노이즈에 대한 강건성 측면에서, BOSSAMP은 HGAMP, GLASSO, AMP와 같은 기존 최신 기술보다 어떤 성능 향상을 보이는가?
• RQ4 복잡한 구조적 사전 확률과 반복적인 믿음 업데이트를 통합하면서도, 알고리즘이 어떻게 낮은 복잡도를 유지하는가?
• RQ5 BOSSAMP은 이진 및 가우시안 사전 확률을 초월하여 임의의 희박한 신호 모델로 얼마나 일반화될 수 있는가?

주요 결과

• BOSSAMP는 HGAMP 및 GLASSO보다 조기 단계 전이를 달성하며, 특히 작은 그룹 크기에서 희박한 가우시안 케이스에서 성공적인 복원을 위한 측정 수를 줄이는 데 기여한다.
• 희박한 이진 사전 확률의 경우, BOSSAMP는 표준 AMP 및 BAMP를 크게 능가하며, 그룹 크기 |G_g| = 2일 때에도 뚜렷한 향상이 관찰된다.
• 희박한 가우시안 사전 확률의 경우, 그룹 크기를 증가시키면 조기 성공 전이와 개선된 NMSE 성능를 달성하며, 특히 매우 과도하게 샘플링된 영역에서 HGAMP를 능가한다.
• BOSSAMP는 매우 적은 반복 수 내에 수렴하며, 단계 전이 근처에서 반복 수의 뚜렷한 피크를 보이며, HGAMP 및 BAMP와 유사한 경향을 보인다.
• BOSSAMP는 낮은 계산 복잡도(반복당 오직 두 번의 행렬-벡터 곱셈만 필요)를 유지하면서도, 더 복잡한 대안들에 비해 뛰어난 성능을 달성한다.
• 시뮬레이션 결과는 BOSSAMP가 노이즈에 더 강건하며, 특히 신호 구조가 알려져 있고 활용되는 경우, 최신 기술 대비 더 낮은 NMSE 및 FANMSE를 달성함을 확인한다.