[논문 리뷰] Stability results for random sampling of sparse trigonometric polynomials

Holger Rauhut|ArXiv.org|2006. 09. 22.

Sparse and Compressive Sensing Techniques참고 문헌 31인용 수 5

한 줄 요약

이 논문은 랜덤 샘플에서 Basis Pursuit (BP)와 Orthogonal Matching Pursuit (OMP)를 사용하여 희박한 삼각다항식을 복원하는 데 있어 이론적 안정성 결과를 확립한다. BP는 노이즈 인식형 변형을 통해 측정 노이즈 하에서도 안정성을 입증하였고, OMP에 대해서는 부분적인 안정성 보장을 제공하며, 수치 실험을 통해 OMP가 균일 복원 보장이 없음에도 불구하고 실질적으로 BP를 능가하는 경향이 있음을 확인하였다.

ABSTRACT

Recently, it has been observed that a sparse trigonometric polynomial, i.e. having only a small number of non-zero coefficients, can be reconstructed exactly from a small number of random samples using Basis Pursuit (BP) or Orthogonal Matching Pursuit (OMP). In the present article it is shown that recovery by a BP variant is stable under perturbation of the samples values by noise. A similar partial result for OMP is provided. For BP in addition, the stability result is extended to (non-sparse) trigonometric polynomials that can be well-approximated by sparse ones. The theoretical findings are illustrated by numerical experiments.

연구 동기 및 목표

• 측정값이 노이즈에 의해 훼손된 경우, 희박한 삼각다항식을 복원하는 데 있어 Basis Pursuit (BP)의 이론적 안정성을 확립하는 것.
• 노이즈가 있는 측정값 하에서 Orthogonal Matching Pursuit (OMP)에 대한 부분적인 이론적 안정성 결과를 제공하는 것.
• BP의 안정성 결과를 희박하지 않은 삼각다항식으로 확장하여, 희박한 것에 의해 잘 근사되는 경우에 적용하는 것.
• BP와 OMP 간의 복원 오차 및 지지집합 복원 성능을 비교하는 수치 실험을 통해 이론적 결과를 검증하는 것.

제안 방법

• 노이즈 수준 추정을 $σ$-파rameterized $β$-제약 조건을 통해 통합한 BP의 변형을 사용하여, 노이즈가 있는 샘플 하에서도 복원을 안정화한다.
• 랜덤 샘플링 점들로 구성된 $[0,2\pi]^d$ 상의 푸리에 유형 측정 행렬에 대해 제한 이sovolumetric 성질(RIP) 추정을 적용한다.
• 연속적인 입방체 상의 랜덤 샘플링 점들이 높은 확률로 안정적인 복원을 가능하게 함을 확률적 분석을 통해 보여준다.
• OMP를 $M$-희박 신호에 대해 $M$회의 반복을 통해 잔차와 가장 높은 상관관계를 가지는 원자들을 반복적으로 선택하는 탐욕 알고리즘으로 구현한다.
• 일관성과 RIP 유사 조건에 기반하여 노이즈 하에서 BP 및 OMP의 복원 오차에 대한 이론적 경계를 유도한다.
• 합성 신호와 노이즈를 사용한 수치 실험을 통해 BP와 OMP 간의 평균 복원 오차 및 정확한 지지집합 복원 성능을 비교한다.

실험 결과

연구 질문

• RQ1 측정값이 $[0,2\pi]^d$ 상의 연속 균일 분포에서 랜덤으로 추출된 경우, 추가 노이즈에 의해 변형되었을 때 Basis Pursuit는 안정적인가?
• RQ2 균일 복원 보장이 없음에도 불구하고, 노이즈가 있는 측정값 하에서 Orthogonal Matching Pursuit가 이론적으로 안정적인가?
• RQ3 신호가 엄밀히 희박하지 않지만 희박한 것으로 잘 근사되는 경우, 노이즈가 존재할 때 BP와 OMP의 복원 오차는 어떻게 비교되는가?
• RQ4 BP의 이론적 안정성 결과를 희박하지 않은 삼각다항식으로 확장할 수 있는가? 이 경우 오차 경계는 근사 품질에 따라 어떻게 달라지는가?
• RQ5 균일 복원 보장이 없음에도 불구하고, OMP가 실질적으로 BP를 능가하는가? 만약 그렇다면 어떤 조건에서 그러한 성능 향상이 발생하는가?

주요 결과

• 제안된 BP의 변형은 노이즈 하에서도 안정적이며, 복원 오차가 노이즈 수준과 최적의 $M$-항 근사 오차의 곱에 의해 상한이 둔다.
• 수치 실험 결과, 노이즈가 존재할 경우 OMP의 평균 복원 오차가 BP보다 일반적으로 낮다는 것이 확인되었다.
• 노이즈 수준이 신호 샘플의 $Â뀭$-노름과 유사한 경우에도 OMP는 정확한 지지집합을 성공적으로 복원하여 강력한 내성성을 보였다.
• 이론적 우월성에도 불구하고, 실질적으로 BP는 OMP를 항상 능가하지 않으며, OMP는 더 자주 정확한 지지집합을 복원하고 더 낮은 오차를 기록한다.
• BP 및 OMP의 안정성 결과는 $M$-희박한 것에 의해 잘 근사되는 비희박 신호로도 확장되며, 오차 경계는 근사 품질에 따라 달라진다.
• 랜덤 샘플링에 대한 제한 이sovolumetric 상수의 이론적 추정은 안정성 분석을 뒷받침하며, CoSaMP 및 ROMP와 같은 관련 알고리즘에의 응용을 가능하게 한다.