[論文レビュー] Robust Augmentation for Multivariate Time Series Classification

Hong Yang, Travis Desell|arXiv (Cornell University)|Jan 27, 2022

Time Series Analysis and Forecasting被引用数 6

ひとこと要約

本稿では、cutout、cutmix、mixup、window warp を用いたロバストなデータ拡張フレームワークを提案し、深層ニューラルネットワークを用いた多変量時系列分類の性能向上を図る。26個のUEA MTSCデータセットに適用した結果、過学習が著しく軽減され、精度が向上した。特にInceptionTimeのようなモデルでは、26個のデータセットのうち15個で最先端の性能を達成し、エタノール濃度データセットでは精度向上が最大48%に達した。

ABSTRACT

Neural networks are capable of learning powerful representations of data, but they are susceptible to overfitting due to the number of parameters. This is particularly challenging in the domain of time series classification, where datasets may contain fewer than 100 training examples. In this paper, we show that the simple methods of cutout, cutmix, mixup, and window warp improve the robustness and overall performance in a statistically significant way for convolutional, recurrent, and self-attention based architectures for time series classification. We evaluate these methods on 26 datasets from the University of East Anglia Multivariate Time Series Classification (UEA MTSC) archive and analyze how these methods perform on different types of time series data.. We show that the InceptionTime network with augmentation improves accuracy by 1% to 45% in 18 different datasets compared to without augmentation. We also show that augmentation improves accuracy for recurrent and self attention based architectures.

研究の動機と目的

• 訓練データが100件未塔のケースが多いため、多変量時系列分類のディープラーニングモデルにおける過学習の課題に対処すること。
• cutout、cutmix、mixup、window warp といったシンプルで基本的なデータ拡張技術が、多様な多変量時系列データセットに与える有効性を評価すること。
• これらの拡張技術が畳み込み型、再帰型、自己注意メカニズムベースのアーキテクチャのすべてにおいて、性能向上を著しくもたらすことを示すこと。
• 適切に拡張されたモデルが非ディープラーニングの最先端手法を上回ることを実証し、モデル比較研究におけるバイアスを低減すること。
• すべての実験の再現性を確保するため、コードとGoogle Colabノートブックを公開すること。

提案手法

• モデル学習の前段階で、多変量時系列データに4つの基本的なデータ拡張技術（cutout、cutmix、mixup、window warp）を適用する。
• トレーニング時間のオーバーヘッドを最小限に抑えるために、TPU互換の演算を用いて拡張を実装する。
• InceptionTime、LSTMベースの再帰型ネットワーク、自己注意メカニズムベースのトランスフォーマー型モデルの3つのディープラーニングアーキテクチャを訓練および評価する。
• UEA MTSCアーカイブの26個の多変量時系列データセットに対して5-fold交差検証を実施し、性能評価の信頼性を確保する。
• グリッドサーチを用いて拡張ハイパーパrameterを最適化し、各データセットに対して最も性能の良い組み合わせを報告する。
• 拡張あり・なしの最終モデルの精度を比較し、Ruizら（2021）が報告した最先端の結果とも比較する。

実験結果

リサーチクエスチョン

• RQ1 cutout、cutmix、mixup、window warp といった基本的なデータ拡張技術は、多変量時系列分類タスクにおけるディープラーニングモデルの汎化性能と精度を向上させるか？
• RQ2 訓練データが極めて限られている場合（例：100件未塔）に、これらの拡張技術はディープネットワークの過学習を効果的に軽減できるか？
• RQ3 これらの改善効果は、畳み込み型、再帰型、自己注意メカニズムベースのアーキテクチャのすべてに及び、モデルの種類を問わず成立するか？
• RQ4 拡張を施したディープラーニングモデルは、ROCKET、CIF、HIVE-COTE といった非ディープラーニングの最先端手法を、標準ベンチマークで上回ることができるか？
• RQ5 異なる種類の多変量時系列データに対して、拡張効果はどのように変化するのか？性能差の背後にはどのような要因があるのか？

主な発見

• InceptionTimeにデータ拡張を適用したモデルは、UEA MTSCアーカイブの26データセットのうち15個で最先端の精度を達成し、Ruizら（2021）が報告した最高結果を上回るか、同等の結果を記録した。
• エタノール濃度データセットでは、精度が33%から81%に上昇し、相対的に48%の向上を達成した。
• Cutmix、mixup、window warp は、テストした3つのディープラーニングアーキテクチャ（畳み込み型、再帰型、自己注意メカニズムベース）すべてで一貫して性能向上をもたらした。
• 非拡張学習と比較した結果、26データセットのうち18個で統計的に有意な精度向上が確認された。
• 特に、ディープネットワークが正則化なしでは通常苦戦する小規模データセットにおいて、拡張が過学習の軽減に顕著に効果的であった。
• 著者らは、拡張技術がディープラーニングと非ディープラーニング手法の性能格差を埋めることを実証し、小規模な多変量時系列タスクにおいてディープラーニングの実用性を高めた。