[논문 리뷰] Truncated Sparse Approximation Property and Truncated $q$-Norm Minimization

Wengu Chen, Peng Li|arXiv (Cornell University)|2018. 06. 28.

Sparse and Compressive Sensing Techniques참고 문헌 47인용 수 5

한 줄 요약

이 논문은 노이즈 있는 측정값 하에서 $q$-노름 최소화를 통한 약간의 희박한 신호와 낮은 질서의 행렬의 안정적 복원을 보장하기 위해 일반화된 강건한 영공간 성질로서 잘린 희박한 근사 성질(TSAP)을 도입한다. TSAP가 $\delta_{tk} < \sqrt{(t-1)/t}$ 인 경우 제한된 이소메트릭 성질(RIP)에 의해 유도됨을 증명하고, $\ell_p$-유계 및 Dantzig 선택기 노이즈 모델 모두에서 명시적인 오차 추정을 포함한 안정적 복원 경계를 제시한다.

ABSTRACT

This paper considers approximately sparse signal and low-rank matrix's recovery via truncated norm minimization $\min_{x}\|x_T\|_q$ and $\min_{X}\|X_T\|_{S_q}$ from noisy measurements. We first introduce truncated sparse approximation property, a more general robust null space property, and establish the stable recovery of signals and matrices under the truncated sparse approximation property. We also explore the relationship between the restricted isometry property and truncated sparse approximation property. And we also prove that if a measurement matrix $A$ or linear map $\mathcal{A}$ satisfies truncated sparse approximation property of order $k$, then the first inequality in restricted isometry property of order $k$ and of order $2k$ can hold for certain different constants $\delta_{k}$ and $\delta_{2k}$, respectively. Last, we show that if $\delta_{t(k+|T^c|)}<\sqrt{(t-1)/t}$ for some $t\geq 4/3$, then measurement matrix $A$ and linear map $\mathcal{A}$ satisfy truncated sparse approximation property of order $k$. Which should point out is that when $T^c=\emptyset$, our conclusion implies that sparse approximation property of order $k$ is weaker than restricted isometry property of order $tk$.

연구 동기 및 목표

• 노이즈 있는 측정값으로부터 압축 가능한 신호와 낮은 질서의 행렬의 안정적 복원을 위한 강건한 영공간 성질 프레임워크 수립.
• 영공간 성질과 제한된 이소메트릭 성질의 일반화로서 잘린 희박한 근사 성질(TSAP)의 정의 및 분석.
• TSAP가 성립할 충분한 조건 유도, 특히 특정 RIP 상수 경계를 갖는 제한된 이소메트릭 성질(RIP)과의 연관성.
• $\ell_p$-유계 및 Dantzig 선택기 노이즈 모델 모두에 대해 잘린 $q$-노름 최소화를 통한 안정적 복원 오차 경계 제공.

제안 방법

• 신호 및 행렬 복원을 위한 $\ell_p$-노름 및 Dantzig 선택기 제약 조건을 포함한 잘린 희박한 근사 성질(TSAP) 제안.
• 오차 벡터의 $k$-희박한 근사에 대한 $\ell_q$-노름에 대한 상한을 통해 TSAP 정의, 상수 $\beta$, $D$ 및 노이즈 항 포함.
• 측정 행렬 $A$가 TSAP를 만족할 조건 유도하여, $t \geq 4/3$ 인 경우 $\delta_{tk} < \sqrt{(t-1)/t}$ 이면 순서 $k$의 TSAP가 유도됨을 보임.
• 측정 행렬 $A$가 TSAP를 만족하면, $\ell_p$-유계 및 Dantzig 선택기 노이즈 모델 모두에서 잘린 $q$-노름 최소화를 통한 안정적 복원이 보장됨을 증명.
• TSAP가 순서 $tk$의 제한된 이소메트릭 성질(RIP)보다 엄밀히 약한 성질임을 증명하고, $T^c = \emptyset$일 경우 고전적인 희박한 근사 성질이 유도됨을 보임, 즉 표준 희박한 경우에 해당.
• 이론을 적용하여 $\ell_2$-노름에서 $\ell_2$-유계 및 Dantzig 선택기 노이즈 모델에 대한 명시적 오차 경계 유도, $\sigma_k(x)_1/\sqrt{k}$ 및 노이즈 수준에 대한 의존성 포함.

실험 결과

연구 질문

• RQ1 잘린 희박한 근사 성질(TSAP)을 정의하고, 노이즈 있는 측정값 하에서 압축 가능한 신호와 낮은 질서의 행렬의 안정적 복원을 보장하는 데 사용할 수 있는가?
• RQ2 TSAP는 제한된 이소메트릭 성질(RIP)과 어떻게 관련되어 있으며, 어떤 RIP 조건 하에서 TSAP가 보장되는가?
• RQ3 TSAP를 사용하여 $\ell_p$-유계 및 Dantzig 선택기 노이즈 모델 모두에 대해 안정적 복원 오차 경계를 도출할 수 있는가?
• RQ4 TSAP는 RIP보다 엄밀히 약한가? $T^c = \emptyset$일 경우, 기존 결과가 특수 케이스로 복원되는가?
• RQ5 TSAP 프레임워크는 낮은 질서의 행렬 복원으로 확장될 수 있으며, 기존의 영공간 성질보다 향상된 복원 보장을 제공하는가?

주요 결과

• 측정 행렬 $A$가 순서 $tk$의 제한된 2-이소메트릭 성질을 만족하고 $\delta_{tk} < \sqrt{(t-1)/t}$ 를 만족하면, $A$는 순서 $k$의 잘린 희박한 근사 성질을 만족한다.
• $\ell_2$-강건한 영공간 성질 및 Dantzig 선택기 희박한 근사 성질은 TSAP에 의해 유도되며, 이는 순서 $tk$의 제한된 2-이소메트릭 성질보다 엄밀히 약하다.
• 노이즈가 $\|z\|_2 \leq \varepsilon$ 인 $\ell_2$-유계인 경우, 최소화자 $\hat{x}_{\ell_2}$의 오차 경계는 $\|\hat{x}_{\ell_2} - x\|_2 \leq C_1(\varepsilon + \eta) + C_2 \sigma_k(x)_1 / \sqrt{k}$ 이며, 여기서 $C_1$ 및 $C_2$ 는 $\delta$ 및 $t$ 에 대한 명시적인 함수이다.
• Dantzig 선택기 노이즈가 $\|A^*z\|_\infty \leq \varepsilon$ 인 경우, $\hat{x}_{DS}$의 오차 경계는 $\|\hat{x}_{DS} - x\|_2 \leq C_3(\varepsilon + \eta) + C_4 \sigma_k(x)_1 / \sqrt{k}$ 이며, $C_3$ 및 $C_4$ 는 $\delta$ 및 $t$ 에 따라 달라진다.
• $T^c = \emptyset$ 인 경우, $\ell_2$-강건 및 Dantzig 선택기 형태의 TSAP는 순서 $tk$의 제한된 2-이소메트릭 성질보다 엄밀히 약하며, 조건들의 계층적 구조를 보여준다.
• 결과는 [9, 정리 2.1] 및 [37, 정리 1.1]의 기존 경계를 일반화하며, 동일한 오차 추정을 갖지만 상수는 다를 수 있어 이전 연구와의 일관성을 확인한다.