[論文レビュー] Combining Embeddings and Fuzzy Time Series for High-Dimensional Time Series Forecasting in Internet of Energy Applications

Hugo Vinicius Bitencourt, Luiz Augusto Facury de Souza+3 more|arXiv (Cornell University)|Dec 3, 2021

Time Series Analysis and Forecasting被引用数 4

ひとこと要約

本稿では、インターネット・オブ・エナジー（IoE）応用における高次元時系列予測を改善するために、データ埋め込み技術（PCA、オートエンコーダ、SOM）と多次元ファジィ時系列を組み合わせた新規ハイブリッド手法γ FTSを提案する。多変量エネルギー消費データをファジィ時系列モデリングの前に低次元空間に投影することで、予測精度を向上させるとともに、モデルの解釈可能性と計算効率を維持する。

ABSTRACT

The prediction of residential power usage is essential in assisting a smart grid to manage and preserve energy to ensure efficient use. An accurate energy forecasting at the customer level will reflect directly into efficiency improvements across the power grid system, however forecasting building energy use is a complex task due to many influencing factors, such as meteorological and occupancy patterns. In addiction, high-dimensional time series increasingly arise in the Internet of Energy (IoE), given the emergence of multi-sensor environments and the two way communication between energy consumers and the smart grid. Therefore, methods that are capable of computing high-dimensional time series are of great value in smart building and IoE applications. Fuzzy Time Series (FTS) models stand out as data-driven non-parametric models of easy implementation and high accuracy. Unfortunately, the existing FTS models can be unfeasible if all features were used to train the model. We present a new methodology for handling high-dimensional time series, by projecting the original high-dimensional data into a low dimensional embedding space and using multivariate FTS approach in this low dimensional representation. Combining these techniques enables a better representation of the complex content of multivariate time series and more accurate forecasts.

研究の動機と目的

• スマートビルにおけるマルチセンサー時系列データを伴う、インターネット・オブ・エナジー（IoE）環境における高次元多次元時系列の予測課題に対処すること。
• 高次元データに適用した場合、複雑さと共線性のため、従来のファジィ時系列モデルが非現実的になるという限界を克服すること。
• ファジィ時系列モデリングの前段階として、埋め込み技術による次元削減を活用することで、住宅用エネルギー消費の予測精度を向上させること。
• エッジデバイスに向けたリソース制約のあるIoEデバイスへの展開に不可欠な、モデルの解釈可能性と低コストな計算を確保すること。
• 実世界のスマートビルエネルギー予測において、最先端のモデルと比較して、提案されたγ FTSフレームワークの有効性を示すこと。

提案手法

• 主成分分析（PCA）、オートエンコーダ（AE）、自己組織化マップ（SOM）の3つの埋め込み技術を用いて、高次元多次元時系列を低次元の潜在空間に射影する次元削減を実施する。
• 低次元表現を多次元ファジィ時系列（FTS）モデルの入力として使用し、変数間の時間的依存性およびファジィ的関係を捉える。
• 目的変数（エネルギー消費）に対してファジィ集合を定義し、埋め込み空間内の状態間の遷移をファジィ論理的関係でモデル化する。
• モデル性能の最適化のため、2つの主要なハイパーパrameterを用いる：ファジィ集合の数（規則の複雑さを制御）と埋め込み次元K（情報保持度を制御）。
• 可視化可能な埋め込み関数を用いることで、ファジィ集合の出力を元のデータ空間に逆変換可能にすることで、モデルの説明可能性を確保する。
• 実世界のスマートビルエネルギー時系列データセットを用いてγ FTSモデルを訓練および評価し、パーシステンス、SARIMAX、PCA-SARIMAX、LSTMベースラインと性能を比較する。

実験結果

リサーチクエスチョン

• RQ1 埋め込みに基づく次元削減は、スマートビルの高次元多次元時系列から得られるファジィ時系列予測の精度を向上させるか？
• RQ2 PCA、AE、SOMといった異なる埋め込み技術は、エネルギー消費予測に必要な予測情報の保持において、どのように比較されるか？
• RQ3 提案されたγ FTSフレームワークは、住宅用エネルギー消費予測において、確立された統計的およびディープラーニングモデルを上回る性能を示すか？
• RQ4 ファジィ集合の数や埋め込み次元Kを増加させることで、予測精度がどの程度向上し、モデルの解釈可能性は維持されるか？
• RQ5 γ FTSモデルは、IoE環境におけるエッジデバイスへの展開に適した、高い性能と低コストな計算を維持できるか？

主な発見

• γ FTSモデルは、スマートビルのエネルギー消費データセットにおいて、パーシステンス、SARIMAX、PCA-SARIMAX、LSTMを含むすべての評価モデルの中で、最も優れた全体的な予測性能を達成した。
• PCAに基づく埋め込みは、AEおよびSOMよりも一貫して高い予測精度を示し、エネルギー消費データにおいて関連するパターンを捉えるために線形射影がより効果的である可能性を示唆している。
• SOMは非線形埋め込みではあるが、離散的かつ滑らかでない埋め込み空間であるため、最も低い精度を示したが、高い解釈可能性を提供した。
• ファジィ集合の数および埋め込み次元Kを増加させることで、予測誤差が低下した。これは、これらのハイパーパrameterを調整することで、モデルの精度を体系的に向上させられることを示している。
• γ FTSフレームワークは、高いモデルの解釈可能性と低コストの計算複雑性を維持しており、IoE応用における低消費電力エッジデバイスへの展開に適している。
• このアプローチは、多重共線性を効果的に緩和し、高次元センサー特徴量間の潜在的相互作用を捉えることができ、透明性を損なわず、予測力の向上を実現した。