[논문 리뷰] Fast Iterative Shrinkage for Signal Declipping and Dequantization

Lucas Rencker, Francis Bach외 2명|arXiv (Cornell University)|2018. 12. 04.

Sparse and Compressive Sensing Techniques참고 문헌 8인용 수 5

한 줄 요약

이 논문은 FISTA를 기반으로 한 빠른 반복 수축 알고리즘을 제안하여 클리핑되거나 양자화된 측정치로부터 희소 신호를 복원한다. 제약 조건이 있는 희소 코딩 문제를 제약 조건이 없는, 볼록적이며 미분 가능한 최적화 문제로 완화함으로써, 특히 대규모 문제에 대해 ADMM 기반 방법에 비해 훨씬 감소된 계산 시간으로 뛰어난 재구성 성능를 달성한다.

ABSTRACT

We address the problem of recovering a sparse signal from clipped or quantized measurements. We show how these two problems can be formulated as minimizing the distance to a convex feasibility set, which provides a convex and differentiable cost function. We then propose a fast iterative shrinkage/thresholding algorithm that minimizes the proposed cost, which provides a fast and efficient algorithm to recover sparse signals from clipped and quantized measurements.

연구 동기 및 목표

• 디지털 신호 처리에서 흔한 클리핑되거나 양자화된 측정치로부터 희소 신호를 복원하는 문제에 대응한다.
• 각 반복에서 비정규 직교 투영을 요구하는 고비용인 기존의 ADMM 기반 방법의 계산 비효율성을 해결한다.
• 가능성 제약 조건을 유지하면서도 볼록성과 미분 가능성을 유지하는 느슨한, 제약 조건이 없는 최적화 문제를 설정한다.
• 특히 과잉기저를 사용할 경우에 효율적으로 작동하는, FISTA 기반의 빠른 일阶 알고리즘을 개발한다.
• 제안된 방법이 ADMM에 비해 훨씬 감소된 런타임을 유지하면서도 동등하거나 더 뛰어난 재구성 품질을 달성함을 보여준다.

제안 방법

• 제약 조건이 있는 희소 코딩 문제를, 가능성이 있는 집합 $ f^{-1}( extbf{y}) $ 까지의 제곱 거리 최소화에 더해 희소성 유도 $ \tilde{\ell}_1 $-노름 펜alties로 느슨하게 전환한다.
• 데이터 일치성 항을 $ \frac{1}{2} \operatorname{d}(\textbf{D} \bm{\alpha}, f^{-1}(\textbf{y}))^2 $ 로 정의하며, 이는 볼록적이며 1-립시츠 연속인 기울기를 가진다.
• 가능성 제약 조건을 강제하기 위해 직교 투영 $ \Pi_{f^{-1}(\textbf{y})}(\textbf{x}) $ 를 사용하며, 클리핑 및 양자화의 경우 요소별 연산으로 계산 가능하다.
• 느슨한 문제를 효율적으로 해결하기 위해 빠른 반복 수축-임계값 알고리즘(FISTA)을 적용하며, $ \mathcal{O}(1/k^2) $ 수렴 속도를 갖는 가속 기반 기울기 방법을 활용한다.
• 이전 두 반복값을 기반으로 한 간단한 업데이트 규칙을 구현하며, 이는 소프트 임계값 처리와 운동량 항을 포함한다.
• 투영 및 기울기 단계가 반복적인 하위 문제 없이 직접 계산되기 때문에, 중첩된 ADMM 반복을 피함으로써 계산 효율성을 확보한다.

실험 결과

연구 질문

• RQ1 신호 클리핑 및 양자화를 위한 제약 조건이 있는 희소 코딩 문제의 볼록적 완화가, 미분 가능하고 효율적으로 해결 가능한 최적화 문제로 이어질 수 있는가?
• RQ2 원래의 제약 조건이 있는 문제에 대해 ADMM를 적용한 것과 비교해, 느슨한 문제에 FISTA를 적용했을 때 재구성 정확도와 계산 비용 측면에서의 성능는 어떠한가?
• RQ3 FISTA의 가속 기법이 클리핑되거나 양자화된 신호에 대해 수렴 속도와 최종 재구성 품질에 어떤 영향을 미치는가?
• RQ4 제안된 방법은 ADMM 기반 접근법에 비해 상당히 감소된 계산 시간을 유지하면서도 높은 재구성 정밀도를 유지할 수 있는가?
• RQ5 비정규 직교 투영이 계산적으로 금기인 과잉기저를 포함한 대규모 문제에 대해 이 방법은 어떻게 스케일링되는가?

주요 결과

• 제안된 느슨한 공식화는 원래 제약 조건이 있는 문제에 대해 ADMM와 동등한 재구성 성능를 달성하며, 정확도 손실가 최소한이다.
• FISTA를 느슨한 문제에 적용한 결과, 150회 이내의 반복 내에 수렴하며, 수렴 속도 측면에서 ISTA 및 ADMM를 크게 앞서며 성능이 뛰어나다.
• 클리핑에 대해 FISTA의 계산 시간은 1.56초, 양자화에 대해 1.81초로, ADMM의 968.4초 및 943.52초에 비해 크게 감소하였다.
• FISTA 기반 방법은 ADMM 대비 99%의 계산 비용 감소를 달성하면서도 높은 신호 대 잡음비(SNR)를 유지한다.
• 알고리즘의 효율성은 중첩된 ADMM 반복을 피하기 때문이며, 가능성이 있는 집합으로의 투영이 요소별 연산을 통해 직접 계산되기 때문이다.
• 기존 ADMM 방법이 비정규 직교 투영으로 인해 높은 계산 오버헤드를 겪는 과잉기저 문제에서도 이 방법은 효과적으로 유지된다.