[논문 리뷰] Signal Reconstruction Framework Based On Projections Onto Epigraph Set Of A Convex Cost Function (PESC)

Mohammad Tofighi, Kıvanç Köse외 1명|arXiv (Cornell University)|2014. 02. 10.

Sparse and Compressive Sensing Techniques참고 문헌 38인용 수 5

한 줄 요약

이 논문은 최적화 문제의 차원을 한 개 높임으로써 볼록 비용 함수의 에피그래프 집합 위에 반복적인 수직 투영을 수행하여 전역 최적 해를 달성하는 새로운 신호 복원 프레임워크인 PESC(볼록 비용 함수의 에피그래프 집합에 투영하는 것)를 제안한다. 이 방법은 전체 변화량 $\mu_{1}$ 및 엔트로피 비용 함수에서 정규화 파라미터 조정이 필요 없음을 제거하여 노이즈 제거 및 압축 센싱에서 정확하거나 거의 정확한 신호 복원을 보여주며 뛰어난 성능을 발휘한다.

ABSTRACT

A new signal processing framework based on making orthogonal Projections onto the Epigraph Set of a Convex cost function (PESC) is developed. In this way it is possible to solve convex optimization problems using the well-known Projections onto Convex Set (POCS) approach. In this algorithm, the dimension of the minimization problem is lifted by one and a convex set corresponding to the epigraph of the cost function is defined. If the cost function is a convex function in $R^N$, the corresponding epigraph set is also a convex set in R^{N+1}. The PESC method provides globally optimal solutions for total-variation (TV), filtered variation (FV), L_1, L_2, and entropic cost function based convex optimization problems. In this article, the PESC based denoising and compressive sensing algorithms are developed. Simulation examples are presented.

연구 동기 및 목표

• 신호 복원에서 정규화 파rameter 조정이 필요 없는 새로운 볼록 최적화 프레임워크를 개발하는 것.
• 차원을 높이고 에피그래프 집합을 사용하여 볼록 최소화 문제를 재구성하여 반복적 투영 기반 해법을 도출하는 것.
• 전체 변화량, $\mu_{1}$, 필터링된 변화량, 그리고 엔트로피 비용 함수에 대해 전역 최적 해를 달성하는 것.
• 실제 계산 가능성을 확보한 효율적인 노이즈 제거 및 압축 센싱 알고리즘을 이 새로운 프레임워크 기반으로 설계하는 것.
• 다양한 테스트 신호 및 이미지에서 최소 오차와 높은 SNR를 달성하여 뛰어난 성능을 입증하는 것.

제안 방법

• 보조 변수 $y$ 를 도입하여 신호 공간의 차원을 $\mathbb{R}^N$ 에서 $\mathbb{R}^{N+1}$ 으로 높인다.
• 에피그래프 집합 $C_f = \{[\mathbf{w}^T~{}y]^T \in \mathbb{R}^{N+1} \mid y \geq f(\mathbf{w})\}$ 를 정의하며, $f(\mathbf{w})$ 가 볼록일 경우 이 집합도 볼록이다.
• 레벨 집합 $C_s = \{[\mathbf{w}^T~{}y]^T \mid y \leq \alpha\}$ 를 정의하며, 제안된 프레임워크에서는 $\alpha = 0$ 이다.
• 임의의 초기 추정치에서 시작하여 $C_s$ 와 $C_f$ 사이를 번갈아가며 수직 투영을 수행한다.
• TV 함수의 지지 초평면 위에 대한 닫힌 형식의 투영을 사용하여 계산 효율성을 확보한다.
• 전역 최소화자 $\mathbf{w}^*$ 에 수렴할 때까지 반복하며, 이는 원래 공간에서 최적 해에 해당한다.

실험 결과

연구 질문

• RQ1 볼록 최적화 문제를 Bregman 거리 계산 없이 에피그래프 집합 위에 반복적 투영을 통해 해결할 수 있는가?
• RQ2 PESC 프레임워크는 전체 변화량, $\ell_1$, 그리고 엔트로피 비용 함수에 대해 전역 최적 해를 달성할 수 있는가?
• RQ3 제안된 방법이 노이즈 제거 및 압축 센싱에서 정규화 파라미터 조정이 필요 없도록 할 수 있는가?
• RQ4 PESC 기반 알고리즘이 기존 최첨단 방법 대비 SNR 및 수렴 속도 측면에서 성능 면에서 어떻게 비교되는가?
• RQ5 스parserity가 엄밀히 알려져 있지 않은 경우에도 이 방법이 압축 가능 신호, 예를 들어 코어 신호를 효과적으로 복원할 수 있는가?

주요 결과

• PESC 프레임워크는 볼록 에피그래프 집합을 활용하여 전체 변화량, 필터링된 변화량, $\ell_1$, 엔트로피 비용 함수에 대해 전역 최적 해를 달성한다.
• TV 함수의 지지 초평면 위에 투영하여 정규화 파rameter 조정이 없는 TV 기반 노이즈 제거를 가능하게 한다.
• 크기 $N = 1024$ 인 코어 신호에 대해 $M = 204$ 측정값으로는 SNR 45 dB, $M = 717$ 측정값으로는 SNR 58 dB 를 달성하였다.
• 2차원 압축 센싱에서, 제안된 알고리즘은 Fowler 등이 제안한 블록 기반 방법보다 평균적으로 $64 \times 64$ 블록 기준 1.24 dB, $32 \times 32$ 블록 기준 0.42 dB 의 SNR 향상을 보였다.
• peppers 이미지의 경우, 제안된 방법은 $32\times32$ 기준으로 SNR 27.06, $64\times64$ 기준으로 SNR 27.93 를 기록하였으며, Fowler의 방법보다 각각 2.4 dB 및 3.47 dB 높았다.
• 수렴 곡선은 $M = 307$ 측정값에서 오차가 100회 반복 이내에 거의 0에 수렴함을 보여주며, 압축 가능 신호에서 빠른 수렴을 보임을 시사한다.