[논문 리뷰] A Comparison and Combination of Unsupervised Blind Source Separation Techniques

Christoph Böddeker, Frederik Rautenberg외 1명|arXiv (Cornell University)|2021. 06. 10.

Blind Source Separation Techniques참고 문헌 30인용 수 8

한 줄 요약

이 논문은 반향이 있는 다중채널 음성 데이터셋에서 비지도 망각원천분리 기법—공간혼합모델(SMM)과 독립벡터분석(IVA)—를 비교하고 통합한다. SMM의 출력을 순차적으로 IVA의 초기화로 사용함으로써, IVA 단독 대비 상대적으로 10% 향상된 WER 성능을 달성하였으며, 신경망 기반 최상위 성능에 근접함을 보였다. 이는 희박성 기반과 비정규분포 기반 분리 모델 간의 상호보완적 강점을 입증한다.

ABSTRACT

Unsupervised blind source separation methods do not require a training phase and thus cannot suffer from a train-test mismatch, which is a common concern in neural network based source separation. The unsupervised techniques can be categorized in two classes, those building upon the sparsity of speech in the Short-Time Fourier transform domain and those exploiting non-Gaussianity or non-stationarity of the source signals. In this contribution, spatial mixture models which fall in the first category and independent vector analysis (IVA) as a representative of the second category are compared w.r.t. their separation performance and the performance of a downstream speech recognizer on a reverberant dataset of reasonable size. Furthermore, we introduce a serial concatenation of the two, where the result of the mixture model serves as initialization of IVA, which achieves significantly better WER performance than each algorithm individually and even approaches the performance of a much more complex neural network based technique.

연구 동기 및 목표

• 대규모 반향이 있는 다중채널 음성 데이터셋에서 SMM(희박성 기반)와 IVA(비정규분포 기반)의 비지도 망각원천분리 기법 성능을 비교하기 위해.
• SMM와 IVA의 상호보완적 가정(희박성과 비정규성)이 알고리즘적 통합을 통해 분리 성능 및 후속 음성인식(ASR) 성능 향상에 기여할 수 있는지 조사하기 위해.
• SMM 기반 초기화가 IVA 수렴성과 강건성에 미치는 영향, 특히 낮은 분리 성능를 보이는 예측의 수를 줄이는 데 기여하는지 평가하기 위해.
• 배열에 종속되지 않는 설계를 유지하면서도 WER 및 SDR 측면에서 최신 신경망 기반 시스템과의 성능 비교를 위해 제안된 체인 방법을 벤치마킹하기 위해.

제안 방법

• SMM는 EM 알고리즘을 사용하여 STFT 도메인에서 원천 활성도 사후확률을 추정하며, 희박성 가정(각 시간-주파수 영역에서 한 개의 원천만 활성화됨)을 기반으로 한다.
• IVA는 음성 신호의 비정규성과 비정상성을 활용하여 주파수 도메인에서 동시 분리를 수행하며, 가역 혼합행렬을 가정한다.
• 순차적 체인 방식을 제안: SMM의 출력을 IVA의 분리행렬 초기화로 사용하여 수렴성과 강건성을 향상시킨다.
• 이 방법은 SMM 마스크를 활용한 beamforming과 함께 IVA를 주파수 도메인에서 동시 처리함으로써 순열모호성 문제를 피한다.
• 원천 분리 이전에 반향 감소를 위해 WPE(가중 예측 오차)를 전처리 단계로 적용한다.
• 성능 평가에는 SMS-WSJ 데이터셋(최대 6개 마이크로폰, 반향 조건)에서 SDR 및 WER를 사용한다.

실험 결과

연구 질문

• RQ1 반향이 있는 다중채널 음성 데이터셋에서 SMM과 IVA의 SDR 및 WER 성능는 어떻게 비교되는가?
• RQ2 SMM(희박성)과 IVA(비정규성)의 상호보완적 가정이 통합될 경우 분리 성능 향상에 기여할 수 있는가?
• RQ3 SMM 출력을 IVA에 초기화하면 낮은 분리 성능를 보이는 예측의 수가 줄어들고 WER가 향상되는가?
• RQ4 제안된 체인 방법은 WER 및 SDR 측면에서 최신 신경망 기반 시스템과 비교해 어떻게 성능를 내는가?

주요 결과

• IVA는 SDR와 WER 양면에서 SMM를 능가하며, SMS-WSJ 데이터셋에서 13.84 dB SDR와 10.91% WER를 기록하였다.
• SMM 출력을 IVA에 초기화하면 WER가 1%p 이상 향상되었으며(10.91% → 9.55%), SDR ≤7 dB인 혼합신호 비율도 3.2%에서 2.0%로 감소하였다.
• 체인 방법(WPE + SMM + IVA)은 9.55% WER와 16.84 dB SDR를 달성하였으며, 복잡한 1,400만 파rameter 신경망 시스템의 최고 보고 성능(8.52% WER)에 근접하였다.
• 제안된 비지도 방법은 학습 데이터 없이도 파라미터 수가 적은 배열에 종속되지 않는 신경망 기반 기준선을 초월하였으며, 특히 [33]에서 보고된 16.84% WER 시스템을 뛰어넘었다.
• SMM 기반 초기화는 IVA의 강건성, 특히 ASR 성능을 떨어뜨리는 저수준 SDR 이상의 이상치를 줄이는 데 있어 뚜렷한 기여를 하였다.