[논문 리뷰] Learning spectrograms with convolutional spectral kernels

Zheyang Shen, Markus Heinonen외 1명|arXiv (Cornell University)|2019. 05. 23.

Gaussian Processes and Bayesian Inference참고 문헌 32인용 수 5

한 줄 요약

이 논문은 공간적으로 변화하는 길이 척도와 주파수를 복소수 기반 함수의 컨볼루션을 통해 모델링하는 새로운 비정상적, 비모수적 공분산 커널인 컨볼루셔널 스펙트럴 커널(CSK)을 소개한다. 이 방법은 스펙트로그램을 통한 커널 프레임워크를 제공함으로써 시공간 데이터셋에서 보다 우수한 일반화 성능과 해석 가능한 패턴 추출을 가능하게 하며, 실험 결과로는 딥 GPs와 스펙트럴 믹스처 커널을 포함한 기준 모델들보다 뛰어난 예측 성능을 보였다.

ABSTRACT

We introduce the convolutional spectral kernel (CSK), a novel family of non-stationary, nonparametric covariance kernels for Gaussian process (GP) models, derived from the convolution between two imaginary radial basis functions. We present a principled framework to interpret CSK, as well as other deep probabilistic models, using approximated Fourier transform, yielding a concise representation of input-frequency spectrogram. Observing through the lens of the spectrogram, we provide insight on the interpretability of deep models. We then infer the functional hyperparameters using scalable variational and MCMC methods. On small- and medium-sized spatiotemporal datasets, we demonstrate improved generalization of GP models when equipped with CSK, and their capability to extract non-stationary periodic patterns.

연구 동기 및 목표

• 제곱 지수와 같은 표준 정상 커널이 시공간 데이터의 비정상적이고 복잡한 패턴을 포괄하지 못하는 한계를 해결하기 위해.
• 기존의 비정상적 및 스펙트럴 믹스처 커널을 일반화하는 유연하고 해석 가능하며 확장 가능한 커널 가족을 개발하기 위해.
• 입력과 주파수의 공동 표현을 통해 비모수적 커널과 깊은 확률 모델을 해석할 수 있는 스펙트로그램 기반 프레임워크를 제공하기 위해.
• 스parser GP와 이동 윈도우 MCEM 기법을 포함한 변분 및 MCMC 방법을 통해 CSK-GP 모델의 스케일러블 추론을 가능하게 하기 위해.
• 실제 및 합성 데이터셋에서 최신 기술 수준의 모델들을 능가하는 비정상적 주기적 패턴 추출 능력과 CSK의 실증적 타당성을 검증하기 위해.

제안 방법

• 공간적으로 변화하는 매개변수를 갖는 두 개의 복소수 기반 원형기저함수의 컨볼루션으로 유도된 비정상적, 비모수적 커널인 컨볼루셔널 스펙트럴 커널(CSK)을 제안한다.
• 길이 척도와 순순주파수를 국소적으로 제어할 수 있는 주파수 및 공분산 매개변수를 포함하는 복소수 특징 매핑을 정의한다.
• 커널 행동과 모델의 해석 가능성에 대한 시각적 해석을 위해 입력-주파수의 공동 표현으로서 스펙트로그램 표현을 도입한다.
• 커널 구조와 스펙트로그램 표현 간의 연결을 위해 근사화된 푸리에 변환을 사용하여 깊은 모델에 대한 원리적인 해석을 가능하게 한다.
• 스parser GP 근사, 확률적 경량화 히브리지 몬테카를로(SGHMC), 이동 윈도우 MCEM을 활용한 기능적 초모수 학습을 통해 스케일러블 추론을 구현한다.
• 공분산 함수 기반 딥 커널 GPs로의 프레임워크 확장을 통해 계층적 모델링이 가능하며, 구성적 DGP 아키텍처에 비해 성능 향상을 이룬다.

실험 결과

연구 질문

• RQ1 공간적으로 변화하는 주파수와 길이 척도를 모델링하면서도 해석 가능성을 유지할 수 있는 비정상적, 비모수적 커널을 구성할 수 있는가?
• RQ2 스펙트로그램은 비모수적 커널과 깊은 확률 모델을 원리적으로 해석하는 데 어떻게 활용될 수 있는가?
• RQ3 CSK 커널은 기존 커널들에 비해 비정상적이고 비정규 분포를 띠는 시공간 데이터셋에서 일반화 성능과 패턴 추출 능력을 향상시키는가?
• RQ4 CSK와 효과적으로 통합할 수 있는 스케일러블 추론 방법은 깊은 가우시안 프로세스의 대규모 적용을 가능하게 하는가?
• RQ5 딥 커널 학습과 CSK와 같은 비모수적 커널 가족 간의 관계는 모델 설계에 어떻게 기여할 수 있는가?

주요 결과

• CSK 커널은 합성 치르프 신호의 순순주파수를 성공적으로 복원하였으며, 학습된 주파수는 진짜 기저 주파수인 $1 + 1.8t^2$와 매우 유사하게 나타났다.
• 태양 복사 에너지 데이터셋에서 CSK는 글로벌 주파수 패턴을 포착하면서도 국소 적응성을 유지하며, 비정규 데이터를 잘 처리하여 SM 및 HMK보다 비정상성 모델링에서 뛰어난 성능을 보였다.
• 공기 온도 이상 데이터셋에서 CSK-GP 모델은 테스트 로그우도 -0.576과 MSE 0.289를 기록하여 SE 커널 및 다른 기준 모델들보다 유의미하게 뛰어난 성능을 보였다.
• 뉴욕-Yellow Taxi 데이터셋에서 CSK는 가장 낮은 테스트 MSE(0.289)와 가장 높은 테스트 로그우도(-0.576)를 기록하였으며, 4층 DGP 및 NSQ 커널에 비해 약간 우월한 성능을 보였다.
• 스펙트로그램 시각화 결과, CSK는 전반적인 주파수 패턴을 학습하면서도 국소 주파수의 변화를 유지하며 순순주파수에 대해 편향 없는 기술을 제공하는 반면, GSM 커널은 이를 충족하지 못했다.
• 제안된 스케일러블 추론 프레임워크는 중간 규모 데이터셋에서 CSK-GP 모델의 효과적 학습을 가능하게 하여 실용성과 강건성을 입증하였다.