[논문 리뷰] On the absence of the RIP in real-world applications of compressed sensing and the RIP in levels

Alexander Bastounis, Anders C. Hansen|arXiv (Cornell University)|2014. 11. 17.

Sparse and Compressive Sensing Techniques참고 문헌 44인용 수 20

한 줄 요약

이 논문은 MRI, CT, 전자현미경과 같은 실세계 압축 측정 응용 분야에서 계층 기반 복원 기저의 구조로 인해 제한된 이sovmetry 성질(Restricted Isometry Property, RIP)이 성립하지 않음을 입증한다. 이를 해결하기 위해 저자는 '계층 내 제한된 이sovmetry 성질'(RIP-L)을 도입하여, 각 희박성 수준 내에서 균일한 복원을 가능하게 하는 일반화된 프레임워크를 제안한다. 이는 실용적 압축 측정 성공에 대한 보다 정확한 이론적 기반을 제공한다.

ABSTRACT

The purpose of this paper is twofold. The first is to point out that the Restricted Isometry Property (RIP) does not hold in many applications where compressed sensing is successfully used. This includes fields like Magnetic Resonance Imaging (MRI), Computerized Tomography, Electron Microscopy, Radio Interferometry and Fluorescence Microscopy. We demonstrate that for natural compressed sensing matrices involving a level based reconstruction basis (e.g. wavelets), the number of measurements required to recover all $s$-sparse signals for reasonable $s$ is excessive. In particular, uniform recovery of all $s$-sparse signals is quite unrealistic. This realisation shows that the RIP is insufficient for explaining the success of compressed sensing in various practical applications. The second purpose of the paper is to introduce a new framework based on a generalised RIP-like definition that fits the applications where compressed sensing is used. We show that the shortcomings that show that uniform recovery is unreasonable no longer apply if we instead ask for structured recovery that is uniform only within each of the levels. To examine this phenomenon, a new tool, termed the 'Restricted Isometry Property in Levels' is described and analysed. Furthermore, we show that with certain conditions on the Restricted Isometry Property in Levels, a form of uniform recovery within each level is possible. Finally, we conclude the paper by providing examples that demonstrate the optimality of the results obtained.

연구 동기 및 목표

• 압축 측정의 성공이 실세계 응용에서 제한된 이sovmetry 성질(RIP)에 기반한다는 가정을 도전하기 위해.
• 특히 웨이브렛과 같은 계층 기반 복원 기저를 사용하는 경우, 많은 실용적 압축 측정 행렬에서 RIP가 실패함을 입증하기 위해.
• 실세계 압축 측정 문제의 구조를 더 잘 반영하는 새로운 이론적 프레임워크인 '계층 내 제한된 이sovmetry 성질'(RIP-L)을 개발하기 위해.
• 전역적인 균일한 복원이 불가능한 상황에서도 RIP-L 하에서 각 희박성 수준 내에서 균일한 복원이 가능함을 보여주기 위해.
• RIP-L 프레임워크의 최적성과 실용적 관련성을 뒷받침하는 이론적 및 수치적 증거를 제공하기 위해.

제안 방법

• 실제 응용에서 특정 행렬에 대해 RIP를 반증하기 위한 실용적 방법으로 '플립 테스트'를 도입한다.
• 복원이 정의된 희박성 수준 내에서만 균일한 복원이 가능하도록 고전적 RIP의 일반화로 '계층 내 제한된 이sovmetry 성질'(RIP-L)을 제안한다.
• 매개변수 $\mathbf{s}$와 $\mathbf{M}$을 사용한 블록 구조 희박성 패턴을 정의하여 각 수준 내에서의 구조화된 복원을 가능하게 한다.
• RIP-L 하에서의 안정적이고 강건한 $\ell^1$-최소화 복원 조건을 확보하기 위해 강건한 노름공간 성질을 분석한다.
• 매개변수 $C$, $\rho$, $\tau$에 의존하는 행렬을 이용해 고전적 RIP의 실패와 RIP-L의 타당성을 입증하는 반례를 구성한다.
• 카우치-슈바르츠 및 $\ell^1$-$\ell^2$ 노름 부등식을 활용하여 RIP-L 하에서 복원 오차의 경계를 유도하고, 노름공간 성질의 타당성을 검증한다.

실험 결과

연구 질문

• RQ1 왜 고전적 제한된 이sovmetry 성질(RIP)은 MRI 및 CT와 같은 실세계 압축 측정 응용에서 성립하지 않는가?
• RQ2 웨이브렛과 같은 계층 기반 복원 기저의 구조는 합리적인 희박성 수준에서 RIP가 만족되지 않도록 어느 정도 방해하는가?
• RQ3 실제로 관찰되는 압축 측정의 복원 행동을 더 잘 모델링할 수 있는 일반화된 RIP 프레임워크를 구성할 수 있는가?
• RQ4 계층 내 제한된 이sovmetry 성질(RIP-L)이 각 희박성 수준 내에서 균일한 복원을 가능하게 하는 조건은 무엇인가?
• RQ5 측정 복잡성과 복원 안정성 측면에서 RIP-L의 이론적 보장 조건은 고전적 RIP와 어떻게 비교되는가?

주요 결과

• MRI, CT, 전자현미경 및 기타 실세계 응용 분야의 압축 측정 행렬에 대해 계층 기반 복원 기저의 구조로 인해 고전적 RIP가 성립하지 않는다.
• 웨이브렛 기반 희박성을 가진 실용적 행렬의 경우, 고전적 RIP 하에서 모든 $s$-희박 신호의 균일한 복원을 위해 요구되는 측정 수는 과도하게 많고 현실적으로 불가능하다.
• 전역적인 균일한 복원이 불가능한 상황을 피하기 위해 각 희박성 수준 내에서 균일한 복원이 가능한 '계층 내 제한된 이sovmetry 성질'(RIP-L)이 도입된다.
• RIP-L에 대한 특정 조건 하에서, 고전적 RIP가 실패하는 경우에도 각 수준 내에서 안정적이고 강건한 $\ell^1$-최소화 복원이 가능하다.
• 이론적 반례를 통해 고전적 RIP는 $C^2$와 $\omega(\rho,C)$를 포함하는 희박성 패턴을 가진 행렬에서 실패하는 반면, RIP-L는 여전히 타당하고 효과적임을 입증한다.
• 논문은 $\|z - z^1\|_2 = 1 > \frac{\sigma_{\mathbf{s,M}}(z^1)_1}{\sqrt{\tilde{s}}} f(\eta_{\mathbf{s,M}})$ 를 큰 $\eta_{\mathbf{s,M}}$ 에 대해 확인하여 고전적 RIP의 실패를 확인하고, RIP-L의 필요성을 뒷받침한다.