[논문 리뷰] Sparse Signals Recovery from Noisy Measurements by Orthogonal Matching Pursuit

Yi Shen, Song Li|arXiv (Cornell University)|2011. 05. 31.

Sparse and Compressive Sensing Techniques참고 문헌 15인용 수 7

한 줄 요약

이 논문은 노이즈가 있는 측정값으로부터 희소 신호의 지지집합을 정확히 복원하기 위한 제약 이sovolution 성질(RIP) 기반의 충분조건을 설정한다. $\delta_{K+1} < \frac{1}{\sqrt{K}+3}$ 인 RIP 조건 하에서, OMP는 $l_2$ 또는 $l_\infty$ 노이즈 범위가 제한된 경우에 진짜 지지집합을 성공적으로 복원하며, 신호 계수들이 유도된 임계값을 초과할 경우에 해당한다.

ABSTRACT

Recently, many practical algorithms have been proposed to recover the sparse signal from fewer measurements. Orthogonal matching pursuit (OMP) is one of the most effective algorithm. In this paper, we use the restricted isometry property to analysis the algorithm. We show that, under certain conditions based on the restricted isometry property and the signals, OMP will recover the support of the sparse signal when measurements are corrupted by additive noise.

연구 동기 및 목표

• 추가 노이즈에 의해 손상된 희소 신호의 지지집합을 복원하기 위해 제약 이sovolution 성질(RIP) 기반의 충분조건을 설정하는 것.
• 측정값이 노이즈에 의해 훼손된 압축 측정 환경에서 OMP의 성능을 분석하여, 이전의 노이즈 없는 복원 보장을 확장하는 것.
• 다양한 노이즈 모델($l_2$ 및 $l_\infty$) 하에서 성공적인 지지집합 복원을 위해 필요한 비제로 신호 계수의 크기 하한을 명시적으로 유도하는 것.
• 기존의 RIP 기반 OMP 보장을 향상시켜 필요한 이sovolution 상수 임계값을 더욱 날카롭게 하는 것.
• 노이즈가 평균이 0이고 분산이 알려진 백색 가우시안일 경우에 확률적 복원 보장을 제공하는 것.

제안 방법

• 측정 행렬 $A$에 대한 제약 이sovolution 성질(RIP)과 이sovolution 상수 $\delta_{K+1}$를 주요 구조적 가정으로 사용한다.
• 각 OMP 반복 단계에서 잔차와 측정 행렬의 열 간 상관관계를 재귀적으로 분석하여 올바른 지지집합 선택을 보장한다.
• $l_2$-노름 및 $l_\infty$-노름 정지 기준을 적용하며, 노이즈 에너지에 대한 제한 $B_2$ 및 $B_\infty$ 를 통해 종료 조건을 제어한다.
• 선택되지 않은 열들과 잔차 간의 최대 상관관계가 선택된 열들보다 크다는 것을 보장하는 핵심 부등식 (3.2) 를 유도한다. 이는 정확한 지지집합 식별을 보장한다.
• 노이즈에 의한 오차 항 $E(\mathbf{z}_k)$ 를 $\|\mathbf{z}\|_2 \leq B_2$ 또는 $\|A^*\mathbf{z}\|_\infty < B_\infty$ 를 사용하여 추정하여, 노이즈가 상관관계 선택에 미치는 영향을 제한한다.
• 선택된 열의 부분행렬 $A_{\Omega_k}^\dagger$ 의 의사역행렬을 사용하여 잔차를 선택된 부분공간의 직교보완에 투영함으로써 정확한 잔차 갱신을 보장한다.

실험 결과

연구 질문

• RQ1 노이즈가 있는 측정값으로부터 $K$-희소 신호의 지지집합을 정확히 복원하기 위해 어떤 RIP 기반 조건이 필요한가?
• RQ2 비제로 신호 계수의 크기가 노이즈 환경에서 OMP의 성공에 어떻게 영향을 미치는가?
• RQ3 정확한 지지집합 복원을 보장하는 데 있어 제약 이sovolution 상수 $\delta_{K+1}$ 에 대한 가장 낮은 가능한 상한은 무엇인가?
• RQ4 다양한 노이즈 모델($l_2$ 및 $l_\infty$) 이 OMP 복원을 위한 필요로 하는 신호 대 노이즈 비율에 어떻게 영향을 미치는가?
• RQ5 노이즈가 평균이 0이고 분산이 알려진 백색 가우시안일 경우, 동일한 RIP 가정 하에 OMP 복원에 대한 확률적 보장을 도출할 수 있는가?

주요 결과

• 노이즈가 $l_2$-제한일 경우 $\|\mathbf{z}\|_2 \leq B_2$ 이고, $\delta_{K+1} < \frac{1}{\sqrt{K}+3}$ 이며, 모든 비제로 계수 $|x_i|$ 가 $\frac{2(1-\delta_{K+1})B_2}{(1-\delta_{K+1})^2 - \delta_{K+1}(1+\sqrt{K})}$ 를 초과할 경우, OMP는 진짜 지지집합을 복원한다.
• 노이즈가 $l_\infty$-제한일 경우 $\|A^*\mathbf{z}\|_\infty < B_\infty$ 이고, $\delta_{K+1} < \frac{1}{\sqrt{K}+3}$ 이며, $|x_i| > \frac{2(1-\delta_{K+1})B_\infty}{(1-\delta_{K+1})^2 - \delta_{K+1}(1+\sqrt{K})}\left(1 + \frac{\sqrt{K}}{\sqrt{1-\delta_{K+1}}}\right)$ 를 만족할 경우, OMP는 지지집합을 복원한다.
• 유도된 RIP 임계값 $\delta_{K+1} < \frac{1}{\sqrt{K}+3}$ 는 거의 최적에 가까운데, 논문에서는 $\delta_{K+1} = \frac{1}{\sqrt{K}}$ 인 행렬을 구성하여 OMP가 실패함을 보여, 이 임계값이 작은 상수 정도만 차이가 나는 것으로서 타당성이 입증된다.
• 노이즈가 평균이 0이고 공분산이 $\sigma^2 I$ 인 백색 가우시안일 경우, $\delta_{K+1} < \frac{1}{\sqrt{K}+3}$ 이고 $|x_i| > \frac{2(1-\delta_{K+1})\sigma\sqrt{m+2\sqrt{m\log m}}}{(1-\delta_{K+1})^2 - \delta_{K+1}(1+\sqrt{K})}$ 를 만족할 경우, OMP는 확률적으로 최소 $1 - 1/m$ 의 확률로 지지집합을 복원한다.
• 분석 결과, 유도된 조건 하에서 OMP는 조기 종료되지 않으며, 진짜 지지집합 인덱스가 모두 선택될 때까지 잔차 노름 또는 상관관계가 정지 임계값을 초과한다.
• 결과적으로, 이전의 노이즈가 있는 환경에서의 OMP에 대한 RIP 기반 보장보다 향상되었으며, 필요한 이sovolution 상수를 더욱 날카롭게 하고, 복원을 위한 명시적인 신호 크기 하한을 제공한다.