[논문 리뷰] Near Optimal Compressed Sensing of Sparse Rank-One Matrices via Sparse Power Factorization.

Kiryung Lee, Yihong Wu외 1명|arXiv (Cornell University)|2013. 12. 02.

Sparse and Compressive Sensing Techniques인용 수 33

한 줄 요약

이 논문은 희박한 랭크-일치 행렬의 압축 감지를 위한 교차 최소화 알고리즘인 희박한 파워 분해(SPF)를 제안한다. 이 알고리즘은 정보 이론적 한계에 근접한 측정 수를 사용하여 안정적인 복원을 달성한다. 볼록 리파라미터라이제이션 방법들과는 달리, SPF는 노이즈가 없는 상황과 노이즈가 있는 상황 양쪽에서 핵자기 및 혼합 노름 접근법을 능가한다.

ABSTRACT

Compressed sensing of simultaneously sparse and rank-one matrices enables recovery of sparse signals from a few linear measurements of their bilinear form. One important question is how many measurements are needed for a stable reconstruction in the presence of measurement noise. Unlike the conventional compressed sensing for sparse vectors, where convex relaxation via the $\ell_1$-norm achieves near optimal performance, for compressed sensing of sparse and rank-one matrices, recently it has been shown by Oymak et al. that convex programmings using the nuclear norm and the mixed norm are highly suboptimal even in the noise-free scenario. We propose an alternating minimization algorithm called sparse power factorization (SPF) for compressed sensing of sparse rank-one matrices. Starting from a particular initialization, SPF achieves stable recovery and requires number of measurements within a logarithmic factor of the information-theoretic fundamental limit. For fast-decaying sparse signals, SPF starting from an initialization with low computational cost also achieves stable reconstruction with the same number of measurements. Numerical results show that SPF empirically outperforms the best known combinations of mixed norm and nuclear norm.

연구 동기 및 목표

• 압축 측정에서 희박한 랭크-일치 행렬을 복원하는 데 있어 핵자기 및 혼합 노름 최소화와 같은 볼록 리파라미터라이제이션 방법의 비최적성 문제를 해결하기 위해.
• 정보 이론적 하한에 근접한 측정 수로 안정적인 복원을 달성하는 비볼록 알고리즘을 개발하기 위해.
• 빠르게 감쇠하는 진폭을 가진 희박한 신호에 대해 빠른 수렴과 안정적인 재구성 가능성을 보장하는 초기화 기법을 설계하기 위해.
• 최신의 혼합-노름 및 핵자기-노름 기반 접근법과의 비교에서 뛰어난 성능을 경험적으로 입증하기 위해.
• 비볼록 최적화 프레임워크를 사용하여 노이즈가 있는 조건에서도 안정적인 복원 보장을 수립하기 위해.

제안 방법

• SPF는 희박한 벡터와 랭크-일치 행렬을 압축 선형 측정에서 함께 추정하기 위해 교차 최소화 프레임워크를 사용한다.
• 알고리즘은 수렴 속도 향상과 안정적인 복원을 보장하기 위해 특정 저복잡도 추정치로 초기화된다.
• 신호의 희박성을 활용하기 위해 신호 추정 단계에서 희박한 정규화를 활용한다.
• 이 방법은 희박한 랭크-일치 행렬의 이차 측정 모델을 모델링하는 비볼록 목적 함수를 최소화하도록 설계되어 있다.
• 이론적 분석 결과, SPF는 정보 이론적 한계에 비례하는 로그 인자 내에서 측정 수를 사용해 안정적인 복원을 달성함을 보여준다.
• 빠르게 감쇠하는 희박한 신호의 경우, 초기화 과정은 저비용이지만 근사 최적의 측정 효율성을 유지한다.

실험 결과

연구 질문

• RQ1 비볼록 알고리즘이 정보 이론적 한계에 근접한 측정 수로 희박한 랭크-일치 행렬의 안정적인 복원을 달성할 수 있는가?

주요 결과

• SPF는 정보 이론적 하한에 비례하는 로그 인자 내에서 측정 수를 사용해 희박한 랭크-일치 행렬의 안정적인 복원을 달성한다.
• 노이즈가 있는 조건에서 SPF는 핵자기 및 혼합 노름 기반 볼록 리파라미터라이제이션 방법보다 재구성 정확도와 안정성 면에서 뛰어나다.
• 빠르게 감쇠하는 희박한 신호의 경우, 저비용 초기화를 사용한 SPF는 동일한 근사 최적의 측정 수로 안정적인 복원을 달성한다.
• 수치 실험 결과 SPF는 핵자기 및 혼합 노름 최소화의 최고 성능 조합을 경험적으로 능가함을 확인한다.
• 이론적 분석 결과 SPF는 측정 노이즈가 존재하는 상황에서도 안정적인 복원 보장을 제공함을 확인한다.
• SPF는 이전에 노이즈 없는 상황에서 매우 비최적임이 입증된 볼록 리파라미터라이제이션 방법의 비최적성을 피한다.