[논문 리뷰] A Scale Invariant Approach for Sparse Signal Recovery

Yaghoub Rahimi, Chao Wang외 2명|arXiv (Cornell University)|2018. 12. 20.

Sparse and Compressive Sensing Techniques참고 문헌 47인용 수 8

한 줄 요약

이 논문은 희소 신호 복원을 위한 척도 불변성 $L_1/L_2$ 비율 최소화 모델을 제안하며, 새로운 강력한 영공간 성질(sNSP)을 활용하여 희소 벡터가 국소 최소화자임을 증명한다. 이 방법은 효율적인 계산을 위해 ADMM를 사용하며, 조정 매개변수 없이도 최신 기술 수준의 성능을 달성한다.

ABSTRACT

In this paper, we study the ratio of the $L_1 $ and $L_2 $ norms, denoted as $L_1/L_2$, to promote sparsity. Due to the non-convexity and non-linearity, there has been little attention to this scale-invariant model. Compared to popular models in the literature such as the $L_p$ model for $p\in(0,1)$ and the transformed $L_1$ (TL1), this ratio model is parameter free. Theoretically, we present a strong null space property (sNSP) and prove that any sparse vector is a local minimizer of the $L_1 /L_2 $ model provided with this sNSP condition. Computationally, we focus on a constrained formulation that can be solved via the alternating direction method of multipliers (ADMM). Experiments show that the proposed approach is comparable to the state-of-the-art methods in sparse recovery. In addition, a variant of the $L_1/L_2$ model to apply on the gradient is also discussed with a proof-of-concept example of the MRI reconstruction.

연구 동기 및 목표

• 정규화 매개변수 조정이 필요 없는, 척도 불변성 있는 희소 신호 복원 방법을 개발하기 위해.
• $L_1/L_2$ 비율 모델에 대한 이론적 기반을 새로운 강력한 영공간 성질(sNSP)을 통해 확립하기 위해.
• s-희소 벡터가 sNSP 조건 하에 $L_1/L_2$ 모델의 국소 최소화자임을 보여주기 위해.
• 실제 구현을 위한 ADMM 기반 해법이 가능한 제약 조건이 부여된 공식을 설계하기 위해.
• 압축 측정 및 MRI 재구성 작업에서 이 방법을 검증하여 경쟁 가능한 성능을 보여주기 위해.

제안 방법

• $L_0$ 노름의 비볼록적이고 척도 불변성 있는 대체 모델로 $L_1/L_2$ 비율을 제안하여 희소성을 촉진한다.
• $L_1/L_2$ 모델의 국소 최소화자로써 s-희소 벡터를 보장하는 새로운 강력한 영공간 성질(sNSP)을 도입한다.
• $A$의 영공간의 구조에 기반하여 $L_1/L_2$ 모델이 희소 신호를 정확히 복원할 수 있는 이론적 조건을 유도한다.
• ADMM 기반 수치적 해법에 적합한 $L_1/L_2$ 모델의 제약 조건이 부여된 최적화 공식을 개발한다.
• MRI 재구성에서 전체 미분 유사 정규화를 위해 신호의 기울기로 $L_1/L_2$ 모델의 변형을 적용한다.
• 강한 수렴 보장을 갖는 증분 방향 다중 승수 방법(ADMM)을 사용하여 제약 조건이 부여된 $L_1/L_2$ 문제를 해결한다.

실험 결과

연구 질문

• RQ1 $L_1/L_2$ 비율이 희소 복원에서 $L_0$ 및 $L_p$($p<1$) 최소화의 실용적이고 매개변수 없는 대안이 될 수 있는가?
• RQ2 $L_1/L_2$ 모델이 희소 신호의 정확한 복원을 보장하는 강력한 영공간 성질(sNSP)을 만족하는가?
• RQ3 $L_1/L_2$ 모델은 $L_1$, $L_p$($p<1$), TL1와 같은 최신 기술 수준의 방법들과 비교해 실질적으로 어떻게 성능을 발휘하는가?
• RQ4 $L_1/L_2$ 모델을 전체 미분 기반의 희소성, 즉 전체 미분 정규화와 유사하게 확장할 수 있는가?
• RQ5 $L_1/L_2$ 모델은 행렬의 일관성에 대해 강건하며, 높은 일관성의 측정 환경에서도 효과적인가?

주요 결과

• 감측 행렬 $A$가 제안된 강력한 영공간 성질(sNSP)을 만족할 경우, $L_1/L_2$ 모델이 모든 $s$-희소 벡터를 국소 최소화자로 갖는 것으로 증명되었다.
• 이론적 분석을 통해 $L_1/L_2$ 모델이 sNSP 조건 하에 정확한 복원을 달성하며, 이는 희소 복원을 위한 필수적이고 충분한 조건임을 보여주었다.
• 실험 결과는 $L_1/L_2$ 모델이 $L_p$($p<1$) 및 TL1와 같은 최신 기술 수준의 방법들과 비슷한 성능을 발휘함을 보여주었다.
• 이 방법은 매개변수 없이 설계되어 있어 $L_p$ 및 TL1 모델과 달리 정규화 매개변수 조정이 필요 없으며, 이는 주요 이점이다.
• $L_1/L_2$ 모델의 변형을 신호의 기울기에 적용함으로써 MRI 재구성에 효과적으로 활용할 수 있으며, 개념 증명 예시를 제시하였다.
• 제약 조건이 부여된 $L_1/L_2$ 공식에 대한 ADMM 기반 알고리즘은 수치 실험에서 신뢰성 있고 효율적으로 수렴하였다.