[논문 리뷰] Bayesian Nonparametric Spectral Estimation

Felipe Tobar|arXiv (Cornell University)|2018. 09. 06.

Gaussian Processes and Bayesian Inference인용 수 13

한 줄 요약

이 논문은 베이지안 비모수 스펙트럼 추정(BNSE)을 제안한다. BNSE는 신호와 스펙트럼을 함께 모델링하기 위해 가우시안 프로세스(GP)를 사용하는 새로운 비모수 베이지안 프레임워크로, 정확한 베이지안 추론을 가능하게 한다. GP 사전분포의 푸리에 변환을 활용함으로써 BNSE는 분석적으로 다룰 수 있는 기능 형태의 사후 전력 스펙트럼 밀도(PSD)를 제공하며, 노이즈가 많고 균일하지 않은 샘플링을 받는 데이터에서 불확실성을 자연스럽게 반영한다. 이는 라임브-스카글 방법과 같은 전통적 방법보다 불확실성 정량화와 주기성 탐지에서 뛰어난 성능을 보인다.

ABSTRACT

Spectral estimation (SE) aims to identify how the energy of a signal (e.g., a time series) is distributed across different frequencies. This can become particularly challenging when only partial and noisy observations of the signal are available, where current methods fail to handle uncertainty appropriately. In this context, we propose a joint probabilistic model for signals, observations and spectra, where SE is addressed as an exact inference problem. Assuming a Gaussian process prior over the signal, we apply Bayes' rule to find the analytic posterior distribution of the spectrum given a set of observations. Besides its expressiveness and natural account of spectral uncertainty, the proposed model also provides a functional-form representation of the power spectral density, which can be optimised efficiently. Comparison with previous approaches, in particular against Lomb-Scargle, is addressed theoretically and also experimentally in three different scenarios. Code and demo available at https://github.com/GAMES-UChile/BayesianSpectralEstimation.

연구 동기 및 목표

• 누락되거나 노이즈가 많고 균일하지 않은 샘플링을 받는 데이터에서 불확실성을 다룰 수 있는 비모수적, 베이지안적, 해석 가능한 프레임워크의 부재를 해결한다.
• 주기성 분석에서 불확실성을 표현하지 못하거나 히우리스틱 오차 막대를 필요로 하는 전통적 파arametric 및 비모수적 방법(예: 피리오그램 및 라임브-스카글)의 한계를 극복한다.
• 가우시안 프로세스를 사용하여 신호와 스펙트럼의 공동 생성 모델을 개발함으로써 전력 스펙트럼 밀도(PSD)에 대한 정확한 사후 추론을 가능하게 한다.
• 기능 형태의 사후 PSD를 제공하여 체계적 검색이나 비볼록 최적화에 의존하지 않고 주기 성분을 효율적으로 최적화할 수 있도록 한다.
• 심장 박동 수 시리즈와 태양흑점 데이터를 포함한 실제 시간 시리즈에서의 강건성(robustness)을 입증하며, 제한된 노이즈가 많은 관측치로부터 진짜 스펙트럼 특징을 회복한다.

제안 방법

• 시간적 구조를 비모수적으로 모델링할 수 있도록 정적(stationary) 공분산 커널을 갖는 가우시안 프로세스(GP)로 잠재 신호를 모델링한다.
• 베이즈 정리에 따라 관측된 데이터를 바탕으로 스펙트럼의 분석적 사후 분포를 유도하며, GP 사전분포의 푸리에 변환을 활용한다.
• 사후 전력 스펙트럼 밀도(PSD)를 GP 공분산 함수의 푸리에 변환 형태로 닫힌 형태(closed form)로 표현함으로써 정확한 추론을 가능하게 한다.
• 사후 PSD의 기능 형태를 활용하여 도함수 기반 최적화 방법(예: 파웰 방법)을 통해 스펙트럼 피크를 효율적으로 최적화함으로써 고비용의 격자 검색을 피한다.
• GP 프레임워크를 통해 누락되거나 노이즈가 있는 관측치를 사후 분포에 대한 근사적 통합(marginalization)을 통해 자연스럽게 처리함으로써 불확실성 전파를 통합한다.
• GP와 푸리에 변환의 공액 구조를 활용하여 몬테카를로나 변분 근사와 같은 근사 기법을 피함으로써 해석 가능하고 정확한 추론을 보장한다.

실험 결과

연구 질문

• RQ1 노이즈가 많고 균일하지 않은 샘플링을 받는 데이터에서 불확실성을 내재적으로 반영할 수 있는 비모수적 베이지안 모델을 스펙트럼 추정에 대해 구축할 수 있는가?
• RQ2 가우시안 프로세스를 통한 신호와 스펙트럼의 공동 생성 모델이 전력 스펙트럼 밀도(PSD)에 대해 해석 가능한, 분석적으로 풀 수 있는 사후 분포를 제공하는가?
• RQ3 사후 PSD의 기능 형태가 비볼록 최적화나 체계적 검색에 의존하지 않고 주기 성분을 효율적으로 최적화할 수 있는가?
• RQ4 라임브-스카글 및 GP 기반 스펙트럼 혼합 모델과 비교했을 때, 제안된 방법은 불확실성 정량화와 스펙트럼 피크 탐지 측면에서 어떻게 성능을 발휘하는가?
• RQ5 BNSE는 훈련 데이터와 다른 신호에서 훈련된 후에도 새로운 데이터에 일반화되어 제한된 노이즈가 많은 관측치로부터 진짜 스펙트럼 특징을 회복할 수 있는가?

주요 결과

• BNSE는 스펙트럼에 대한 정확한 분석적 사후 분포를 제공하여 부트스트래핑이나 몬테카를로 근사에 의존하지 않고 원칙적인 불확실성 정량화를 가능하게 한다.
• 사후 전력 스펙트럼 밀도(PSD)는 선형 비용 최적화가 가능한 기능 형태로 표현되며, 이는 비볼록 최적화가 필요한 스펙트럼 혼합 모델 대비 계산 비용을 크게 감소시킨다.
• 심장 박동 수 시리즈 실험에서, BNSE의 사후 PSD는 전체 데이터에 대한 라임브-스카글 결과(기준값)를 포함하고 있었으며, 단지 10%의 데이터만을 사용해 다른 신호에 대해 테스트한 경우에도 이를 유지했다.
• 태양흑점 데이터셋에서 BNSE는 진짜 11년 주기(주파수 ≈ 0.089)를 사후 PSD의 전역 최대값으로 성공적으로 식별했으며, 스펙트럼 혼합 GP와 라임브-스카글은 기울기 기반 최적화에서 수렴하지 못했다.
• BNSE의 스펙트럼 추정치는 라임브-스카글과 유사한 로브폭(lobewidths)을 보였으며, LS 추정치가 그 불확실성 구간 내에 포함되어 있어 신뢰할 수 있는 불확실성 캘리브레이션을 보였다.
• 비정상성과 비정규성에 대해서도 강건하며, 다른 방법들이 수렴하지 못하는 비정상적인 태양흑점 시리즈에서도 주기성을 성공적으로 복원했다.