[논문 리뷰] Iterative Null-space Projection Method with Adaptive Thresholding in Sparse Signal Recovery and Matrix Completion

Ashkan Esmaeili, Ehsan Asadi외 1명|arXiv (Cornell University)|2016. 10. 02.

Sparse and Compressive Sensing Techniques참고 문헌 16인용 수 11

한 줄 요약

이 논문은 이산적 잡음에 강건하고 빠른 희소 신호 복원 알고리즘을 개발하기 위해 반복적 영공간 투영 기반 적응형 임계치 설정 기법(이하 INPMAT)을 제안한다. 이 방법은 측정 행렬의 영공간에 대해 임계치 설정된 추정치를 반복적으로 투영함으로써 복원 정확도를 향상시키며, 특히 낮은 측정률에서 LASSO, OMP, IMAT보다 뛰어난 성능을 보이며, 측정 수가 신호 희소성의 두 배에 가까워질 경우 출력 SNR가 최대 80 dB에 이르게 된다.

ABSTRACT

Adaptive thresholding methods have proved to yield high SNRs and fast convergence in finding the solution to the Compressed Sensing (CS) problems. Recently, it was observed that the robustness of a class of iterative sparse recovery algorithms such as Iterative Method with Adaptive Thresholding (IMAT) has outperformed the well-known LASSO algorithm in terms of reconstruction quality, convergence speed, and the sensitivity to the noise. In this paper, we introduce a new method towards solving the CS problem. The logic of this method is based on iterative projections of the thresholded signal onto the null-space of the sensing matrix. The thresholding is carried out by recovering the support of the desired signal by projection on thresholding subspaces. The simulations reveal that the proposed method has the capability of yielding noticeable output SNR values with about as many samples as twice the sparsity number, while other methods fail to recover the signals when approaching the algebraic bound for the number of samples required. The computational complexity of our method is also comparable to other methods as observed in the simulations. We have also extended our Algorithm to Matrix Completion (MC) scenarios and compared its efficiency to other well-reputed approaches for MC in the literature.

연구 동기 및 목표

• 노이즈 환경에서 기존 방법들인 LASSO와 OMP보다 더 강건하고 빠른 희소 신호 복원 알고리즘을 개발하는 것.
• 측정 수가 신호 희소성의 두 배에 가까워질 때 복원에 실패하는 기존 방법의 한계를 해결하는 것.
• 제안된 방법을 행렬 완성(MC) 상황으로 확장하여 Soft-Impute와 SVT와 같은 기존 기법들보다 성능을 향상시키는 것.
• 반복 단계에서 의사역행렬 계산에 의존하지 않아 계산 효율성과 수치적 안정성을 향상시키는 것.
• 희소 복원에서 랜덤 샘플링(RS)이 가우시안 측정 행렬보다 우월한 이유를 탐구, 특히 낮은 측정률에서의 성능을 중심으로 분석하는 것.

제안 방법

• 알고리즘은 현재 신호 추정치에 대해 적응형 임계치 설정을 반복적으로 적용하여 가장 중요한 성분들만 유지한다.
• 임계치 설정 후, 결과로 얻어진 신호를 측정 행렬 Φ의 영공간에 투영하여 측정 방정정식 y = Φx 를 만족시키도록 한다.
• 투영 단계는 갱신된 추정치가 측정 방정식과 일致하면서도 희소성을 유지하도록 보장한다.
• 적응형 임계치 설정은 반복 횟수에 따라 지수적으로 감소하는 임계치를 사용하여 가장 희소한 해로 수렴하도록 한다.
• 이 알고리즘은 낮은 질서 행렬 복원 원리에 따라 동일한 영공간 투영 및 적응형 임계치 설정 원리를 적용하여 행렬 완성에 확장한다.
• 반복 과정에서 의사역행렬의 명시적 계산을 피함으로써 수치적 안정성 향상과 계산 비용 절감을 달성한다.

실험 결과

연구 질문

• RQ1 반복적 영공간 투영과 적응형 임계치 설정이 희소 신호 복원에서 LASSO, OMP, IMAT보다 더 높은 신호 복원 SNR을 달성할 수 있는가?
• RQ2 특히 낮은 측정률에서, 랜덤 샘플링(RS)과 가우시안 측정 행렬 간의 성능 비교는 어떻게 이루어지는가?
• RQ3 제안된 방법은 Soft-Impute, SVT, SL0와 같은 최첨단 행렬 완성 알고리즘보다 어느 정도 뛰어나게 성능을 발휘하는가?
• RQ4 기존 방법들과 비교해 반복 과정에서 의사역행렬 계산을 생략함으로써 강건성과 수렴 속도가 향상되는가?
• RQ5 측정 수가 신호 희소성의 두 배에 가까워질 때 성공적인 복원을 위한 이론적 및 실증적 임계값은 무엇인가?

주요 결과

• 측정 수가 신호 희소성의 두 배에 가까워질 경우, 제안된 INPMAT 방법은 출력 SNR 최대 80 dB를 달성하며, 이는 다른 방법들이 신호를 복원하지 못하는 영역에서의 성능이다.
• 행렬 완성에서 MIMAT(MIMAT은 행렬 완성 변형)는 65%의 데이터 누락 비율에서도 RMSE가 0을 기록하며, SVT(RMSE ≈ 0.3)와 Soft-Impute(RMSE > 0.2)를 모두 능가한다.
• 25% 측정률에서 랜덤 샘플링(RS)은 80 dB의 출력 SNR를 달성하지만, 가우시안 측정 행렬은 신호를 완전히 복원하지 못한다.
• 50% 이상의 측정률에서는 RS와 가우시안 측정 모두 유사한 성능을 보이지만, 낮은 측정률에서는 RS가 일관되게 우월하다.
• 80% 이상의 데이터 누락 비율에서 MIMAT은 SL0보다 RMSE가 0.2 더 낮게 나타나 행렬 완성에서 우수한 성능을 발휘한다.
• 실행 시간 분석 결과, INPMAT의 실행 시간은 비교 가능한 방법들 중 최소 실행 시간의 두 배를 초과하지 않으며, 이는 경쟁 가능한 계산 효율성을 의미한다.