[논문 리뷰] Fixed point theory and semidefinite programming for computable performance analysis of block-sparsity recovery

Gongguo Tang, Arye Nehorai|arXiv (Cornell University)|2011. 10. 05.

Sparse and Compressive Sensing Techniques인용 수 8

한 줄 요약

이 논문은 블록 희소 신호 복원을 위한 계산 가능한 성능 한계를 계산하기 위해 고정점 이론과 정재성 프로그래밍 프레임워크를 제안한다. 블록-ℓ∞ 노름의 복원 오차를 제한하는 감지 행렬의 우수도 측도를 정의하고, 측정 수가 충분히 많을 경우 이러한 측도가 비퇴화됨을 증명하며, 이러한 한계를 효율적으로 계산하기 위한 전역 수렴 성질을 갖는 알고리즘을 제공한다.

ABSTRACT

In this paper, we employ fixed point theory and semidefinite programming to compute the performance bounds on convex block-sparsity recovery algorithms. As a prerequisite for optimal sensing matrix design, a computable performance bound would open doors for wide applications in sensor arrays, radar, DNA microarrays, and many other areas where block-sparsity arises naturally. We define a family of goodness measures for arbitrary sensing matrices as the optimal values of certain optimization problems. The reconstruction errors of convex recovery algorithms are bounded in terms of these goodness measures. We demonstrate that as long as the number of measurements is relatively large, these goodness measures are bounded away from zero for a large class of random sensing matrices, a result parallel to the probabilistic analysis of the block restricted isometry property. As the primary contribution of this work, we associate the goodness measures with the fixed points of functions defined by a series of semidefinite programs. This relation with fixed point theory yields efficient algorithms with global convergence guarantees to compute the goodness measures.

연구 동기 및 목표

• 비랜덤 감지 행렬에서 블록 희소성 복원에 대한 계산 가능한 성능 분석의 부족을 해결하여, 감지 시스템의 실용적 설계 및 사전 분석를 제한하는 문제를 해결한다.
• 임의의 감지 행렬에 대해 블록 제한 등거리성 조건(BLOCK-RIP)을 검증하는 데 있어 계산의 비가역성 문제를 극복한다.
• 볼록 블록 희소성 알고리즘에서 복원 오차의 블록-ℓ∞ 노름을 제한하는 계산 가능한 우수도 측도의 가족을 개발한다.
• 레이더, 센서 어레이, DNA 마이크로어레이와 같은 애플리케이션에서 성능 예측 및 최적의 감지 행렬 설계를 가능하게 한다.
• 주어진 감지 행렬에 대해 이러한 우수도 측도의 하한을 계산하기 위한 전역 수렴 성질을 갖는 알고리즘을 제공한다.

제안 방법

• 정재성 프로그래밍을 포함하는 구조화된 최적화 문제의 최적값으로서 우수도 측도의 가족을 정의한다.
• 이러한 측도의 계산을 고정점 반복 프레임워크로 재구성하며, 각 반복 단계에서 정재성 프로그래밍의 시퀀스를 해결한다.
• 볼록성과 연속성 성질을 활용하여 고정점 반복이 임의의 초기값에서 최적값으로 전역 수렴함을 증명한다.
• 정재성 프로그래밍을 통해 정의된 함수의 고정점과 우수도 측도의 하한 사이의 관계를 수립한다.
• 고정점 프레임워크를 활용하여 블록-ℓ1 최소화를 통한 정확한 블록 희소 복원을 위한 충분조건을 검증한다.
• 측정 수가 상대적으로 많을 경우, 서브가우시안 및 등방향 랜덤 감지 행렬에 대해 우수도 측도의 비퇴화성(비영성)을 분석한다.

실험 결과

연구 질문

• RQ1 비랜덤 감지 행렬에 대해 적용 가능한 임의의 감지 행렬에 대해 계산 가능한 블록 희소 신호 복원 성능 한계를 정의할 수 있는가?
• RQ2 고정점 이론과 정재성 프로그래밍을 어떻게 조합하여 전역 수렴 보장을 갖는 효율적인 성능 한계 계산을 수행할 수 있는가?
• RQ3 측정 수가 상대적으로 많은 경우, 랜덤 감지 행렬에 대한 우수도 측도의 행동은 어떠한가?
• RQ4 제안된 프레임워크는 볼록 최적화를 통해 정확한 블록 희소 복원을 위한 충분조건를 검증할 수 있는가?
• RQ5 기존의 블록-RIP 기반 오차 한계와 비교해 볼 때, 제안된 한계는 얼마나 날카로운가?

주요 결과

• 제안된 우수도 측도는 볼록 블록 희소성 알고리즘에서 복원 오차의 블록-ℓ∞ 노름에 대한 계산 가능한 상한을 제공한다.
• 고정점 반복 프레임워크는 각 단계에서 정재성 프로그래밍을 포함하므로, 우수도 측도의 최적값으로 전역 수렴한다.
• 서브가우시안 및 등방향 랜덤 감지 행렬의 경우, 측정 수가 상대적으로 많을 때 우수도 측도가 0으로부터 멀리 떨어져 있어 비퇴화된 성능를 보장한다.
• 이 프레임워크를 통해 블록-ℓ1 최소화를 통한 정확한 블록 희소 복원을 위한 충분조건의 효율적 검증이 가능하다.
• 수치적 결과는 제안된 한계가 블록 제한 등거리성 조건(BLOCK-RIP) 기반 오차 한계보다 더 날카로운 것으로 나타났다.
• 고정점 반복이 유일한 양의 고정점을 갖는 것으로 증명되어, 초기화에 관계없이 전역 최적해로 수렴함을 보장한다.