[논문 리뷰] On asymptotic structure in compressed sensing

Bogdan Roman, Anders C. Hansen외 1명|arXiv (Cornell University)|2014. 06. 16.

Sparse and Compressive Sensing Techniques참고 문헌 28인용 수 78

한 줄 요약

이 논문은 점근적 비정규성, 점근적 희박성, 다수준 샘플링을 바탕으로 한 새로운 압축 측정 프레임워크를 제안하며, 최적의 샘플링 전략이 신호 구조와 해상도에 따라 결정된다는 것을 입증한다. MRI, 형광 현미경, 압축 영상 분야에서 고전적 랜덤 샘플링조차도 베이지안 또는 근사 메시지 전달 알고리즘과 같은 고급 알고리즘을 사용할 때조차도 구조적 샘플링이 더 뛰어난 성능을 보임을 보여준다.

ABSTRACT

This paper demonstrates how new principles of compressed sensing, namely asymptotic incoherence, asymptotic sparsity and multilevel sampling, can be utilised to better understand underlying phenomena in practical compressed sensing and improve results in real-world applications. The contribution of the paper is fourfold: First, it explains how the sampling strategy depends not only on the signal sparsity but also on its structure, and shows how to design effective sampling strategies utilising this. Second, it demonstrates that the optimal sampling strategy and the efficiency of compressed sensing also depends on the resolution of the problem, and shows how this phenomenon markedly affects compressed sensing results and how to exploit it. Third, as the new framework also fits analog (infinite dimensional) models that govern many inverse problems in practice, the paper describes how it can be used to yield substantial improvements. Fourth, by using multilevel sampling, which exploits the structure of the signal, the paper explains how one can outperform random Gaussian/Bernoulli sampling even when the classical $l^1$ recovery algorithm is replaced by modified algorithms which aim to exploit structure such as model based or Bayesian compressed sensing or approximate message passaging. This final observation raises the question whether universality is desirable even when such matrices are applicable. Examples of practical applications investigated in this paper include Magnetic Resonance Imaging (MRI), Electron Microscopy (EM), Compressive Imaging (CI) and Fluorescence Microscopy (FM). For the latter, a new compressed sensing approach is also presented.

연구 동기 및 목표

• 신호가 희박하지만 구조적 프레임에서 점근적으로 희박한 경우, 전통적인 압축 측정 이론과 실용적 응용 사이의 격차를 해소하기 위해.
• 최적의 샘플링 전략이 희박성 외에도 신호 구조와 문제의 해상도에 따라 달라진다는 것을 입증하기 위해.
• MRI나 전자현미경과 같은 실제 응용에서 흔히 나타나는 무한차원 모델로의 압축 측정 이론을 확장하기 위해.
• 모델 기반 또는 베이지안 압축 측정과 같은 고급 복원 알고리즘을 사용할 때조차도 다수준 샘플링이 고전적 랜덤 샘플링보다 뛰어난 성능을 보일 수 있음을 보여주기 위해.
• 랜덤 샘플링 행렬의 보편성이라는 가정을 도전하기 위해, 신호 구조가 알려져 있을 경우 구조적 샘플링이 훨씬 우수한 성능을 낼 수 있음을 보여주기 위해.

제안 방법

• 고전적 CS의 기초를 대체하기 위해 점근적 비정규성, 점근적 희박성, 다수준 샘플링이라는 세 가지 새로운 원칙을 도입한다.
• 균일한 랜덤 서브샘플링을 대체로, 웨이브렛 또는 *-렛 프레임에서 신호 구조와 일치하는 구조적 다수준 샘플링 패턴을 사용한다.
• 무한차원 신호를 모델링하기 위해 일반화된 샘플링 프레임워크를 사용하여 MRI나 EM과 같은 아날로그 시스템에의 적용을 가능하게 한다.
• 비정규성 정도를 측정하기 위해 일관성 측도 µ(U) = max_{i,j} |u_{ij}|^2 를 사용하며, 최적의 복원을 위해서는 µ(U) ≲ 1/N 가 필요하다.
• 측정 복잡도의 경계를 유도한다: m ≳ µ(U) · N · s · (1 + log(1/ϵ)) · log(N), 이는 비정규성과 희박성에 의존함을 보여준다.
• l1-최소화 복원 방법을 적용한다: min_z ||z||_1 를 조건 ||y - P_Ω U z|| ≤ η 를 만족시키며, η 는 노이즈 수준에 따라 설정된다.

실험 결과

연구 질문

• RQ1 희박성 외에 신호 구조가 압축 측정에서 최적의 샘플링 전략에 어떤 영향을 미치는가?
• RQ2 문제의 해상도가 압축 측정의 효율성과 성능에 어느 정도의 영향을 미치는가?
• RQ3 베이지안 또는 근사 메시지 전달과 같은 고급 복원 알고리즘을 사용할 때조차도 다수준 샘플링이 고전적 랜덤 샘플링을 능가할 수 있는가?
• RQ4 압축 측정 이론을 MRI나 전자현미경과 같은 실제 영상 응용에서 나타나는 무한차원 모델로 어떻게 확장할 수 있는가?
• RQ5 신호 구조가 알려져 있을 경우, 랜덤 샘플링 행렬의 보편성은 바람직한가, 아니면 열등한가?

주요 결과

• 신호 구조에 기반한 다수준 샘플링은 MRI, 형광 현미경, 압축 영상에서 고전적 균일 랜덤 서브샘플링보다 일관되게 뛰어난 성능을 보이며, 고급 복원 알고리즘을 사용할 때조차도 승리한다.
• 안정적인 복원을 위해 필요한 측정 수는 비정규성 µ(U), 희박성 s, 문제의 차원 N 에 따라 결정되며, m ≳ µ(U) · N · s · (1 + log(1/ϵ)) · log(N) 의 경계에 따라 변화한다.
• 웨이브렛이나 *-lets와 같은 프레임에서의 점근적 희박성은 고해상도 또는 무한차원 설정에서 고전적 희박성 가정보다 더 나은 복원을 가능하게 한다.
• 이 새로운 프레임워크는 기존 CS가 비정규성과 무한차원성으로 인해 실패하는 MRI나 전자현미경과 같은 아날로그 시스템을 성공적으로 모델링하고 성능을 향상시켰다.
• 모델 기반 또는 베이지안 압축 측정을 사용할 때조차도, 다수준 설계를 통한 구조적 샘플링이 랜덤 샘플링보다 더 뛰어난 재구성 품질을 제공한다.
• 논문은 랜덤 샘플링 행렬의 보편성이 항상 최적은 아니며, 신호 구조가 알려져 있을 경우 구조적 샘플링이 상당한 성능 향상을 이룬다는 것을 입증한다.