[論文レビュー] Time Series Compression Based on Adaptive Piecewise Recurrent Autoencoder

Daniel Hsu|arXiv (Cornell University)|Jul 23, 2017

Time Series Analysis and Forecasting参考文献 15被引用数 8

ひとこと要約

本稿では、長短期記憶（LSTM）ネットワークを用いた適応的区分的再帰オートエンコーダ（RAE）を用いた、損失あり時系列圧縮手法を提案する。局所的時系列統計に基づいて入力ウィンドウサイズを動的に調整し、隠れ状態と入力の両方を統合的に符号化するRAEを採用することで、ユーザーが定義した偏差制約のもとで、高圧縮比（最小0.03）と低再構成誤差（RMSE ≤ 0.07）を達成する。

ABSTRACT

Time series account for a large proportion of the data stored in financial, medical and scientific databases. The efficient storage of time series is important in practical applications. In this paper, we propose a novel compression scheme for time series. The encoder and decoder are both composed by recurrent neural networks (RNN) such as long short-term memory (LSTM). There is an autoencoder between encoder and decoder, which encodes the hidden state and input together and decodes them at the decoder side. Moreover, we pre-process the original time series by partitioning it into segments with various lengths which have similar total variation. The experimental study shows that the proposed algorithm can achieve competitive compression ratio on real-world time series.

研究の動機と目的

• 金融、医療、エネルギーなどの分野における大規模時系列データの効率的保存および送信の課題に対処すること。
• 予測や可視化などの後続タスクに十分な再構成品質を維持する損失あり圧縮方式の開発。
• 時系列の局所的複雑性に応じて入力ウィンドウサイズを調整することで、適応的圧縮を実現し、圧縮効率を向上させること。
• エンコーダおよびデコーダの両方でLSTMの長期依存性モデリング能力を活用し、再構成忠実度を向上させること。
• 精度が求められる応用に適した、保証された最大再構成偏差を備えた手法の提供。

提案手法

• 本手法は、時系列データの符号化と復元に二重の並列LSTMネットワークを用いた再帰オートエンコーダ（RAE）を採用する。
• 適応的入力ウィンドウ戦略により、局所的時系列の変動に基づいてウィンドウサイズを調整し、最小再構成誤差を最適化するために二分探索を用いる。
• 入力シーケンスは、RAEの固定入力次元に合わせて補間またはダウンサンプリングされ、可変解像度圧縮を可能にする。
• エンコーダは入力シーケンスとその隠れ状態の両方を圧縮し、デコーダは潜在表現を用いて信号を再構成する。
• RAEはエンドツーエンドで再構成誤差を最小化するように学習され、最大偏差（L∞ノルム）はユーザーが定義した許容誤差によって制約される。
• 多変量時系列への応用を拡張するため、各チャネルを独立して処理するか、RAEフレームワーク内で統合的に処理する。

実験結果

リサーチクエスチョン

• RQ1 局所的複雑性の異なる時系列に対して、適応的ウィンドウ戦略は圧縮効率を向上させるか？
• RQ2 LSTMと再帰オートエンコーダを組み合わせることで、時系列の長期的依存性をより良く再構成できるか？
• RQ3 提案手法は、ユーザーが定義した誤差境界のもとで高圧縮比を達成できるか？
• RQ4 固定ウィンドウアプローチと比較して、適応的RAEの圧縮比および再構成精度の性能はどのように異なるか？
• RQ5 本手法は、実世界のセンサーからの多変量時系列にどの程度一般化可能か？

主な発見

• 地震波動信号において、許容偏差が0.15の条件下で圧縮比0.03、RMSE 0.07を達成した。
• 許容偏差0.1の地震データでは、圧縮比0.06、RMSE 0.03を達成した。
• 多変量の人体活動データでは、許容偏差0.15の下で圧縮比0.05、RMSE 0.02を達成した。
• 人体活動データにおいて許容偏差を0.2に引き上げた場合、圧縮比は0.03に上昇したが、RMSEは0.05のまま維持された。
• 適応的ウィンドウ戦略により、情報量の多いセグメントに集中し、滑らかな領域の冗長性を低減することで、圧縮効率が顕著に向上した。
• エンコーダおよびデコーダの両方でLSTMを活用することで、長期的時系列依存性の効果的なモデリングが可能となり、再構成品質が向上した。