[論文レビュー] Learning spectrograms with convolutional spectral kernels

Zheyang Shen, Markus Heinonen+1 more|arXiv (Cornell University)|May 23, 2019

Gaussian Processes and Bayesian Inference参考文献 32被引用数 5

ひとこと要約

本稿では、空間的に変化する長さスケールおよび周波数を、複素数の径数基底関数の畳み込みによってモデル化する、非定常的かつ非パrametricなガウス過程の共分散カーネルである畳み込みスペクトルカーネル（CSK）を提案する。この手法により、スペクトログラムを通じてカーネルを定式化することで、時空間データに対する一般化性能の向上と解釈可能なパターン抽出が可能となり、ベースラインモデル（深層GPsやスペクトルミックスチャネルカーネルを含む）と比較して優れた予測性能を示す実証的結果が得られた。

ABSTRACT

We introduce the convolutional spectral kernel (CSK), a novel family of non-stationary, nonparametric covariance kernels for Gaussian process (GP) models, derived from the convolution between two imaginary radial basis functions. We present a principled framework to interpret CSK, as well as other deep probabilistic models, using approximated Fourier transform, yielding a concise representation of input-frequency spectrogram. Observing through the lens of the spectrogram, we provide insight on the interpretability of deep models. We then infer the functional hyperparameters using scalable variational and MCMC methods. On small- and medium-sized spatiotemporal datasets, we demonstrate improved generalization of GP models when equipped with CSK, and their capability to extract non-stationary periodic patterns.

研究の動機と目的

• 標準的な定常カーネル（例：平方指数カーネル）が、時空間データにおける非定常的で複雑なパターンを捉えることの限界を是正すること。
• 既存の非定常およびスペクトルミックスチャネルカーネルを一般化する、柔軟性があり解釈可能でスケーラブルなカーネル族の開発。
• 入力と周波数の共同表現を通じて、非パrametricカーネルおよび深層確率的モデルの解釈を可能にするスペクトログラムベースのフレームワークの提供。
• 変分推論およびMCMC手法（スパースGPおよび移動ウィンドウMCEM技術を含む）を用いたCSK-GPモデルのスケーラブルな推論の実現。
• 実世界および合成データセットにおいて、CSKが非定常的周期的パターンを抽出でき、最先端のモデルを上回ることを実証的に検証すること。

提案手法

• 空間的に変化するパrameterを有する2つの複素数値径数基底関数の畳み込みから導出される非定常的かつ非パrametricなカーネルとして、畳み込みスペクトルカーネル（CSK）を提案する。
• 局所的な長さスケールおよび瞬時の周波数の制御を可能にする周波数および共分散パラメータを含む複素数特徴写像を定義する。
• カーネルの挙動とモデルの解釈可能性を解釈するための入力-周波数連合可視化としてのスペクトログラム表現を導入する。
• カーネル構造とそのスペクトログラム表現との間を結ぶ近似フーリエ変換を用い、深層モデルの原理的解釈を可能にする。
• スパースGP近似、確率的勾配ハミルトニアンモンテカルロ（SGHMC）、および移動ウィンドウMCEMを用いて、関数的ハイパーパラメータ学習のためのスケーラブルな推論を実装する。
• 共分散関数を用いた深層カーネルGPsへの拡張により、階層的モデリングが可能となり、構成的DGPアーキテクチャを上回る性能向上を実現する。

実験結果

リサーチクエスチョン

• RQ1 空間的に変化する周波数および長さスケールをモデル化しつつ、解釈可能性を維持できる非定常的かつ非パrametricなカーネルを構築可能か？
• RQ2 スペクトログラムは、非パrametricカーネルおよび深層確率的モデルの解釈のための原理的フレームワークとして効果的か？
• RQ3 CSKカーネルは、既存のカーネルと比較して、非定常的かつ非ガウス分布の時空間データに対して一般化性能およびパターン抽出能力を向上させられるか？
• RQ4 CSKと効果的に組み合わせられるスケーラブルな推論手法は、深層ガウス過程の大型スケール応用を可能にするか？
• RQ5 深層カーネル学習とCSKのような非パrametricカーネル族との関係は何か？この関係は、モデル設計にどのように寄与できるか？

主な発見

• CSKカーネルは、合成チープ信号の瞬時の周波数を効果的に回復し、学習された周波数が真の周波数 $1 + 1.8t^2$ とよく一致していることが確認された。
• 太陽放射エネルギーデータセットにおいて、CSKはグローバルな周波数パターンを捉えつつ、局所的な適応性を示し、非ガウス分布のデータに対しても非定常性を適切にモデル化した。SMおよびHMKと比較して優れた性能を示した。
• 気温異常データセットにおいて、CSK-GPモデルはテスト時の対数尤度が -0.576、MSEが 0.289 となり、SEカーネルおよび他のベースラインと比較して顕著に優れた性能を示した。
• ニューヨーク・イエロー・タクシー・データセットにおいて、CSKは最低のテストMSE（0.289）および最高のテスト対数尤度（-0.576）を達成し、4層DGPおよびNSQカーネルをわずかに上回った。
• スペクトログラムの可視化から、CSKはグローバルな周波数パターンを学習しつつ、局所的な周波数の変化を適切に捉え、GSMカーネルとは異なり瞬時の周波数を偏りなく記述していることが明らかになった。
• 提案されたスケーラブルな推論フレームワークにより、中規模のデータセット上でのCSK-GPモデルの有効な訓練が可能となり、実用的応用およびロバストネスの両面で実証された。