[논문 리뷰] Generalized Approximate Message Passing for Cosparse Analysis Compressive Sensing

Mark Borgerding, Philip Schniter외 1명|arXiv (Cornell University)|2013. 12. 13.

Sparse and Compressive Sensing Techniques참고 문헌 44인용 수 6

한 줄 요약

이 논문은 일반 분석 압축 측정법을 위한 일반화된 근사 메시지 전달(GrAMPA)을 제안한다. 이는 임의의 분석 연산자와 정규화를 사용하여 고성능의 공희박 신호 복원을 효율적으로 가능하게 하는 베이지안 기반 AMP 알고리즘이다. 또한 SNIPE 디노이저를 도입한다. 이는 무한 분산을 가진 스파이크-앤티-슬래브 사전 분포 하에서 최소제곱오차(MMSE) 추정에 기반한 소프트 스레셔딩 규칙으로, 기존의 AMP, 게리프, 재가중 ℓ₁ 방법들보다 더 뛰어난 복원 정확도와 속도를 확보한다. 이는 시뮬레이션 및 영상 실험에서 입증되었다.

ABSTRACT

In cosparse analysis compressive sensing (CS), one seeks to estimate a non-sparse signal vector from noisy sub-Nyquist linear measurements by exploiting the knowledge that a given linear transform of the signal is cosparse, i.e., has sufficiently many zeros. We propose a novel approach to cosparse analysis CS based on the generalized approximate message passing (GAMP) algorithm. Unlike other AMP-based approaches to this problem, ours works with a wide range of analysis operators and regularizers. In addition, we propose a novel $\ell_0$-like soft-thresholder based on MMSE denoising for a spike-and-slab distribution with an infinite-variance slab. Numerical demonstrations on synthetic and practical datasets demonstrate advantages over existing AMP-based, greedy, and reweighted-$\ell_1$ approaches.

연구 동기 및 목표

• 임의의 분석 연산자와 정규화를 지원하는 일반적이고 확장 가능하며 효율적인 공희박 분석 압축 측정법 알고리즘을 개발하는 것.
• 유한 차분 행렬과 같은 특정 연산자에 국한된 기존 AMP 기반 방법의 한계를 해결하는 것.
• 무한 분산을 가진 슬래브를 가진 스파이크-앤티-슬래브 사전 분포를 기반으로 하여 ℓ₀ 유사 정규화를 근사하는 새로운 MMSE 디노이저를 설계하는 것.
• 계산적으로 효율적인 방식으로 신호의 MAP 및 근사 MMSE 추정을 동시에 달성하는 것.
• 다양한 신호 모델과 영상 응용 분야에서 최신 기술들에 비해 복원 정확도와 런타임 면에서 뛰어난 성능을 입증하는 것.

제안 방법

• 이 방법은 분석 CS 문제를 베이지안 프레임워크 내에서 기술하며, 신호 사전분포와 가능도를 각각 분리 가능한 함수 h_d(u_d)와 l_m(·)로 모델링한다.
• 일반화된 근사 메시지 전달(GAMP)을 사용하여 신호의 사후 평균과 공분산을 반복적으로 추정함으로써, 효율적인 근사 MMSE 및 MAP 추정을 가능하게 한다.
• 핵심 기여는 스파이크-앤티-슬래브 분포와 무한 분산 슬래브 하에서의 MMSE 추정에 기반한 SNIPE 디노이저의 도입으로, 이는 ℓ₀ 유사 희박성 촉진을 모방한다.
• SNIPE 디노이저는 GAMP 프레임워크에 통합되어 비볼록, 비연속 정규화를 처리할 수 있게 하여 공희박 신호의 강력한 복원을 가능하게 한다.
• 이 알고리즘은 실수 및 복소수 신호 모두를 지원하며, 일반적인 연산자에 대해서는 O(DN)의 복잡도를 가지며, 빠른 변환을 사용할 경우 O(N log N)으로 확장 가능하다.
• SNIPE 파라미터 ω의 온라인 튜닝은 향후 연구 과제로 제시된다.

실험 결과

연구 질문

• RQ1 공희박 분석 압축 측정법에서 임의의 분석 연산자를 다룰 수 있도록 일반화된 AMP 프레임워크를 확장할 수 있는가?
• RQ2 AMP 프레임워크 내에서 비볼록, ℓ₀ 유사 정규화를 효과적으로 근사할 수 있는가?
• RQ3 무한 분산 슬래브를 가진 스파이크-앤티-슬래브 사전 분포에 기반한 제안된 SNIPE 디노이저가, 복원 품질 면에서 표준 ℓ₁ 및 재가중 ℓ₁ 정규화를 능가하는가?
• RQ4 기존의 게리프 및 볼록 최적화 기반 접근법 대비 제안된 방법의 계산 복잡도와 확장성은 어떠한가?
• RQ5 이 알고리즘이 푸리에 측정값으로부터의 영상 복원과 같은 실용적 영상 작업에서 뛰어난 단계 전이(curve)와 복원 SNR 성능을 달성할 수 있는가?

주요 결과

• SNIPE 디노이저를 통한 GrAMPA는 소음이 없는 L-공희박 신호 복원에서 가장 우수한 단계 전이 곡선을 보였으며, GAP, ACoSaMP 및 기타 AMP 기반 방법들을 능가했다.
• 512×512 크기의 레나 영상 압축 이미지 복원에서, GrAMPA는 모든 측정 비율에서 SARA(reweighted-ℓ₁)와 GrLASSO보다 높은 중앙 NSNR를 달성했으며, 런타임은 220초로 SARA의 2687초보다 훨씬 빠르게 작동했다.
• 2차원 라디얼 라인 푸리에 측정값으로부터의 Shepp-Logan 페phantom 복원에서, GrAMPA는 6개 이상의 라디얼 라인일 경우 모든 경우에서 최고의 NSNR 성능을 보였으며, 런타임은 0.28초로 GAP(30.1초)보다 훨씬 빠르게 작동했다.
• 제안된 SNIPE 디노이저는 무한 분산 슬래브를 가진 스파이크-앤티-슬래브 모델 하에서의 MMSE 추정을 통해 효과적인 ℓ₀ 유사 정규화를 실현하였으며, 이는 희박성 촉진 성능 향상으로 이어졌다.
• 이 알고리즘은 일반적인 연산자에 대해 O(DN)의 복잡도를 가지며, 빠른 변환을 사용할 경우 O(N log N)으로 확장 가능하여 영상 응용 분야에서 매우 효율적이다.
• 수치 결과는 GrAMPA가 다양한 데이터셋과 측정 모델에서 최신 기술들에 비해 항상 뛰어난 복원 정확도와 계산 효율성을 확보하고 있음을 입증한다.