[論文レビュー] Wavelet Networks: Scale-Translation Equivariant Learning From Raw Time-Series

David W. Romero, Erik J. Bekkers+2 more|arXiv (Cornell University)|Jun 9, 2020

Neural Networks and Applications被引用数 5

ひとこと要約

この論文は、時間的信号に内在する対称性を活用する、生の時系列データ向けのスケール・トランスレーション等長性を有するニューラルネットワークであるウェーブレットネットワークを紹介する。スケールおよびトランスレーションに対する等長性を有する群畳み込みを構築することで、アーキテクチャはウェーブレット変換を模倣し、前処理を必要とせず、データ効率が高く、音声、環境音、電気信号の分野でエンジニアリングされたスペクトログラム手法と同等の性能を発揮するエンドツーエンド学習を可能にする。

ABSTRACT

Leveraging the symmetries inherent to specific data domains for the construction of equivariant neural networks has lead to remarkable improvements in terms of data efficiency and generalization. However, most existing research focuses on symmetries arising from planar and volumetric data, leaving a crucial data source largely underexplored: time-series. In this work, we fill this gap by leveraging the symmetries inherent to time-series for the construction of equivariant neural network. We identify two core symmetries: *scale and translation*, and construct scale-translation equivariant neural networks for time-series learning. Intriguingly, we find that scale-translation equivariant mappings share strong resemblance with the wavelet transform. Inspired by this resemblance, we term our networks Wavelet Networks, and show that they perform nested non-linear wavelet-like time-frequency transforms. Empirical results show that Wavelet Networks outperform conventional CNNs on raw waveforms, and match strongly engineered spectrogram techniques across several tasks and time-series types, including audio, environmental sounds, and electrical signals. Our code is publicly available at https://github.com/dwromero/wavelet_networks.

研究の動機と目的

• 時系列データにおける未だ十分に探求されていない対称性、特にスケールおよびトランスレーション不変性を扱う。これは信号処理において基本的である。
• すべての層にわたってこれらの対称性を保持するニューラルネットワークアーキテクチャを開発し、データ効率と一般化性能を向上させる。
• 古典的ウェーブレット変換とディープラーニングの間のギャップを埋めるために、ウェーブレットに類似した変換を模倣した微分可能でエンドツーエンドのアーキテクチャを構築する。
• スケールおよびトランスレーションに対する等長性が、標準的なCNNと比較して生の時系列タスクにおける性能向上に寄与することを示す。
• スペクトログラムベースのモデルの代替として、スケーラブルでパラメータ効率が良く、前処理を回避し、モデルの複雑さを低減する代替手段を提供する。

提案手法

• この手法は、スケールおよびトランスレーション変換に対する群畳み込みを用い、入力の変換が特徴空間にも正確に反映されることを保証する。
• 各層はウェーブレット変換を模倣するように設計されており、多スケールでトランスレーション不変な表現を可能にするために、Bスpline基底を用いてパrameter化された拡張畳み込みカーネルが使用される。
• この等長性を持つ層を階層的にスタックすることで、非線形かつウェーブレットに類似した時間周波数分解が実現される。
• 各層の出力がスケールおよびトランスレーションに対して一貫して変化することを保証することで、すべての層にわたって等長性が維持され、ウェーブレット変換の挙動と類似する。
• スペクトログラムや手作業で作成された特徴量に依存せず、標準的なバックプロパゲーションを用いて生波形上でエンドツーエンドで学習される。
• 大きなカーネルの連続的パrameter化と、カーネルサイズに応じて空間ドメインとフーリエドメインの畳み込みの間で動的に切り替えることで、効率が向上する。

実験結果

リサーチクエスチョン

• RQ1 ニューラルネットワークにおけるスケール・トランスレーション等長性が、生の時系列学習におけるデータ効率と一般化性能の向上に寄与するか？
• RQ2 ウェーブレットに類似した変換は、スケール・トランスレーション等長性畳み込みにおいてどの程度自然に出現するか？
• RQ3 エンドツーエンドの等長性が、スペクトログラムを前処理のフロントエンドとして使用する場合と比較して、どのように異なるか？
• RQ4 長時間の入力長を持つ時系列モデルにおいて、スケール間の相互作用が性能に与える影響は何か？
• RQ5 ウェーブレットにインspiredされたアーキテクチャは、Melスペクトログラムのような高度にエンジニアリングされたスペクトログラムベースのモデルと同等またはそれ以上の性能を発揮できるか？

主な発見

• ウェーブレットネットワークは、音声や電気信号を含む複数の時系列タスクにおいて、標準的なCNNよりも生波形で優れたデータ効率を示す。
• US8K音声データセットにおいて、Melスペクトログラムベースのアプローチと同等の性能を達成しており、生波形を用いながらもパラメータ数が少ない。
• ネットワーク内のスケール間相互作用は、常に性能向上に寄与する。これは、視覚モデルとは対照的で、視覚モデルでは切断による等長性の誤差が生じるためである。
• アーキテクチャの内部層は連続ウェーブレット変換に強く類似しており、群の等長性とウェーブレット解析との理論的関連性が裏付けられる。
• 連続的カーネルパラメータ化とフーリエドメイン畳み込みの使用は、大規模カーネルにおける計算効率を顕著に向上させる。
• メモリと学習時間は考慮されるスケール数に比例するが、モンテカルロ近似と分離可能な群畳み込みが、将来的な最適化の有望な道筋を示している。