[論文レビュー] Non-Intrusive Load Monitoring with an Attention-based Deep Neural Network.

Antonio M. Sudoso, Veronica Piccialli|arXiv (Cornell University)|Nov 15, 2019

Smart Grid Energy Management参考文献 15被引用数 10

ひとこと要約

本論文では、回帰サブネットワークと分類サブネットワークを統合したアテンションベースの深層ニューラルネットワークを、非侵襲的負荷監視（NILM）に提案する。回帰ブランチに特化した時系列アテンションメカニズムを統合することで、家電の電源オン/オフイベントおよび高消費電力セグメントの検出が向上し、REDDおよびUK-DALEデータセットにおいて最先端の手法を上回る性能を発揮する。

ABSTRACT

Energy disaggregation, known in the literature as Non-Intrusive Load Monitoring (NILM), is the task of inferring the system appliance loads given an aggregate energy signal, for example coming from a residential power monitor. In this paper, we propose a deep neural network that combines a regression subnetwork with a classification subnetwork for solving the NILM problem. Specifically, we improve the representational power of the overall architecture by including an encoder-decoder with a tailored attention mechanism in the regression subnetwork. The attention mechanism is inspired by the temporal attention that has been recently successfully applied in neural machine translation, text summarization and speech recognition. The experiments have been conducted on two publicly available datasets REDD and UK-DALE. The results show that our proposed deep neural network outperforms the state-of-the-art in all the considered experimental conditions. We also show that modeling attention translates into the network's ability to correctly detect the turning on or off an appliance and to locate signal sections with high power consumption, that are of extreme interest in the field of energy disaggregation.

研究の動機と目的

• 集約電力信号内の時系列パターンの表現を向上させることで、エネルギー分解能の精度を向上させること。
• 電源オン・オフイベントを高精度に検出する課題に対処すること。
• エネルギー効率分析において重要な高消費電力セグメントの局所化を実現すること。
• 時系列モデリングを強化するためのアテンションメカニズムを統合したディープラーニングアーキテクチャの開発。
• ベンチマークNILMデータセットにおいて、既存の最先端手法を上回ること。

提案手法

• モデルは二重ブランチアーキテクチャを採用：回帰サブネットワークは個々の家電の電力を予測し、分類サブネットワークは家電の状態を検出する。
• 回帰サブネットワークは、自然言語処理における系列モデリングを模倣したカスタム時系列アテンションメカニズムを備えたエンコーダ・デコーダ構造を採用。
• アテンションメカニズムは入力信号の関連する時系列セグメントに注目し、電力消費パターンの特徴表現を向上させる。
• 回帰および分類の両目的を最適化する統合損失関数を用いて、エンドツーエンドでネットワークを訓練。
• 標準的なNILM評価指標を用いて、REDDおよびUK-DALEの2つの公開データセットでアーキテクチャを評価。
• アテンションメカニズムにより、遷移や高消費電力イベントなどの顕著な信号領域に注目できる。

実験結果

リサーチクエスチョン

• RQ1 アテンションベースのディープニューラルネットワークは、既存手法と比較して非侵襲的負荷監視の精度を向上させることができるか？
• RQ2 時系列アテンションメカニズムの統合により、家電の電源オン・オフイベントの検出が向上するか？
• RQ3 アテンション駆動型の特徴学習により、高消費電力セグメントの局所化がより良くなるか？
• RQ4 提案アーキテクチャは、ベンチマークデータセットにおける多様な住宅用エネルギー消費パターンに対してどのように性能を発揮するか？
• RQ5 アテンションは、NILMタスクにおけるモデルのロバストネスおよび一般化性能をどの程度向上させるか？

主な発見

• 提案モデルは、REDDおよびUK-DALEデータセットの両方で、すべての実験条件下で最先端の手法を上回る性能を発揮した。
• アテンションメカニズムにより、家電の電源オン・オフイベントの検出能力が顕著に向上し、より高い精度を達成した。
• ネットワークは、エネルギー分析にとって重要な高消費電力セグメントの局所化が強化された。
• 回帰サブネットワークにおけるエンコーダ・デコーダ構造にアテンションを統合することで、時系列電力パターンの表現学習が改善された。
• 回帰と分類の両サブネットワークを統合したアーキテクチャは、単一タスクモデルよりもより正確な分解能を達成した。
• 平均F1スコアおよびその他の標準NILM評価指標において、優れた性能を達成した。