[논문 리뷰] Translation-Invariant Shrinkage/Thresholding of Group Sparse Signals

Po-Yu Chen, Ivan Selesnick|arXiv (Cornell University)|2013. 03. 29.

Ultrasonics and Acoustic Wave Propagation인용 수 11

한 줄 요약

이 논문은 비분리 그룹 희박성 페널티를 갖는 볼록 비용 함수를 최소화하는 이동 불변성 있는 노이즈 제거 알고리즘인 Overlapping Group Shrinkage (OGS)을 제안한다. 주요 최소화(MM) 기법을 사용함으로써 변수 중복과 블록 아티팩트를 피하고, 최신 기법들에 비해 음성 강화에서 더 낮은 음악적 노이즈를 유도하며 뛰어난 청각적 품질을 달성한다.

ABSTRACT

This paper addresses signal denoising when large-amplitude coefficients form clusters (groups). The L1-norm and other separable sparsity models do not capture the tendency of coefficients to cluster (group sparsity). This work develops an algorithm, called 'overlapping group shrinkage' (OGS), based on the minimization of a convex cost function involving a group-sparsity promoting penalty function. The groups are fully overlapping so the denoising method is translation-invariant and blocking artifacts are avoided. Based on the principle of majorization-minimization (MM), we derive a simple iterative minimization algorithm that reduces the cost function monotonically. A procedure for setting the regularization parameter, based on attenuating the noise to a specified level, is also described. The proposed approach is illustrated on speech enhancement, wherein the OGS approach is applied in the short-time Fourier transform (STFT) domain. The denoised speech produced by OGS does not suffer from musical noise.

연구 동기 및 목표

• 웨이브렛 또는 STFT 표현에서와 같이 큰 계수들이 군집하는 경우 신호 노이즈 제거 문제를 해결하기 위해.
• 블록 기반 처리에서 흔히 발생하는 블록 아티팩트를 피할 수 있는 이동 불변성 있는 스hrinkage 방법을 개발하기 위해.
• 비분리 그룹 희박성 페널티를 갖는 볼록 비용 함수를 효율적으로 최소화하는 알고리즘을 설계하기 위해.
• 신호의 노이즈 감쇠를 기반으로 한 비베이지안적이고 해석적으로 접근 가능한 정규화 파rameter λ 설정 방법을 제공하기 위해.
• 특히 음악적 노이즈 감소를 통해 음성 강화에서 향상된 청각적 품질을 달성하기 위해.

제안 방법

• 알고리즘은 다음과 같은 볼록 비용 함수를 최소화한다: $ \mathbf{x}^* = \arg\min_{\mathbf{x}} \left\{ \frac{1}{2}\|\mathbf{y}-\mathbf{x}\|_2^2 + \lambda R(\mathbf{x}) \right\} $, 여기서 $ R(\mathbf{x}) = \sum_{i} \left( \sum_{j} |x(i+j)|^2 \right)^{1/2} $ 는 그룹 희박성을 촉진한다.
• 주요 최소화(MM) 프레임워크를 사용하여 변수 중복 없이 비용 함수를 단조롭게 감소시키는 반복적 갱신식을 유도한다.
• 그룹은 완전히 겹치므로 이동 불변성을 확보하고 가장자리 효과나 블록 아티팩트를 방지한다.
• 반복적 갱신식은 분리 가능한 컨볼루션을 통해 효율적으로 구현되어 보조 변수나 복잡한 인덱싱이 필요로 하지 않는다.
• 노이즈 파wer를 목표 수준으로 감쇠시키는 데 기반하여 λ 설정 절차를 제안하며, i.i.d. 가우시안 신호 반응에서 사전에 계산된 룩업 테이블을 사용한다.
• 음성 강화에 응용하기 위해 STFT 도메인에서 구현되며, 비교를 위해 선택적 위너 후처리가 가능하다.

실험 결과

연구 질문

• RQ1 블록 아티팩트를 유발하지 않으면서 그룹 희박성을 효과적으로 활용할 수 있는 이동 불변성 스hrinkage 방법을 개발할 수 있는가?
• RQ2 변수 분할이나 보조 변수 없이도 비분리 그룹 희박성 페널티를 효율적으로 최소화할 수 있는가?
• RQ3 신호에 대한 사전 지식 없이도 원하는 노이즈 감쇠를 보장할 수 있는 단순한 비베이지안 방법으로 정규화 파rameter λ를 설정할 수 있는가?
• RQ4 제안된 OGS 방법은 블록 임계처리 또는 다른 최신 기법들에 비해 음성 강화에서 청각적 아티팩트인 '음악적 노이즈'를 감소시키는가?
• RQ5 OGS를 사용할 경우 다른 노이즈 제거 알고리즘들과 비교해 SNR와 청각적 품질 사이의 상충 관계는 어떻게 되는가?

주요 결과

• OGS는 실측 위너 후처리를 통해 15.63 dB의 출력 SNR를 달성했으며, BT, SUB 및 PS와 같은 최신 기법들과 유사한 성능을 보였다.
• 약간 높은 RMSE에도 불구하고 청취 테스트를 통해 음악적 노이즈가 크게 감소한 더 뛰어난 청각적 품질을 제공함을 확인했다.
• 제안된 λ 설정 방법은 노이즈 분산을 원래 값의 특정 분수로 감소시켜 예측 가능한 노이즈 제거 성능을 보장한다.
• 완전히 겹치는 그룹으로 인해 블록 아티팩트를 피함으로써 더 부드러운 스펙트럼 전이와 향상된 청각적 품질을 달성한다.
• OGS 알고리즘은 계산적으로 효율적이며 분리 가능한 컨볼루션을 통해 구현 가능하여 변수 분할 방법의 메모리 및 인덱싱 오버헤드를 피한다.
• 위너 후처리 없이도 OGS는 스펙트럼 감쇠 및 로그-MMSE에 비해 청각적 품질에서 뛰어나며, 청각적으로 드러나는 아티팩트가 적다.