[論文レビュー] Sequence to Point Learning Based on Bidirectional Dilated Residual Network for Non Intrusive Load Monitoring

Ziyue Jia, Linfeng Yang+3 more|arXiv (Cornell University)|May 30, 2020

Smart Grid Energy Management参考文献 26被引用数 6

ひとこと要約

本論文は、非侵襲的負荷監視（NILM）のためのシーケンス・ツー・ポイント学習フレームワークを提案し、深層ネットワークの学習における課題と長距離依存関係のモデリングに取り組む。REDDおよびUK-DALEデータセットを用いた実験により、すべての家電機器において優れた性能を示し、エネルギー分解能の分野で最先端の手法を上回った。

ABSTRACT

Non Intrusive Load Monitoring (NILM) or Energy Disaggregation (ED), seeks to save energy by decomposing corresponding appliances power reading from an aggregate power reading of the whole house. It is a single channel blind source separation problem (SCBSS) and difficult prediction problem because it is unidentifiable. Recent research shows that deep learning has become a growing popularity for NILM problem. The ability of neural networks to extract load features is closely related to its depth. However, deep neural network is difficult to train because of exploding gradient, vanishing gradient and network degradation. To solve these problems, we propose a sequence to point learning framework based on bidirectional (non-casual) dilated convolution for NILM. To be more convincing, we compare our method with the state of art method, Seq2point (Zhang) directly and compare with existing algorithms indirectly via two same datasets and metrics. Experiments based on REDD and UK-DALE data sets show that our proposed approach is far superior to existing approaches in all appliances.

研究の動機と目的

• 深層ニューラルネットワークの学習における消失勾配および爆発勾配の課題に対処すること。
• 集約電力シーケンスにおける長距離時系列依存関係のモデリングを改善し、正確な家電機器の分解能を実現すること。
• 既存の深層学習手法を上回る、頑健なシーケンス・ツー・ポイント学習フレームワークの開発。
• 標準化されたデータセット（REDDおよびUK-DALE）と一貫した評価指標を用いて、手法の妥当性を検証すること。
• 双方向拡張畳み込みが、電力シーケンスデータにおける過去および未来の文脈を効果的に捉えることの有効性を示すこと。

提案手法

• 本手法は、受容 field を段階的に拡大する拡張畳み込みを用いて、電力シーケンスにおける長距離依存関係をモデル化する双方向拡張残差ネットワーク（Bi-DRN）を採用する。
• 前方および後方の両方向に拡張畳み込みを適用し、過去および未来の時系列ステップからの時系列的文脈を捉える。
• 残差ブロック内のスキップ接続により、学習中の消失勾配およびネットワーク劣化の問題を軽減する。
• 集約電力のシーケンスを単一の家電機器電力推定値にマッピングするエンド・ツー・エンドのシーケンス・ツー・ポイント学習パラダイムでネットワークを訓練する。
• NILM問題に一般的な単一チャネル、識別不能なブラインドソース分離に最適化されたアーキテクチャである。
• 電力分解能に特化した損失関数を用いて、標準的な深層学習最適化技術でモデルを訓練する。

実験結果

リサーチクエスチョン

• RQ1 双方向拡張残差ネットワークは、NILMにおける家庭用電力シーケンスの長距離時系列依存関係を効果的にモデリングできるか？
• RQ2 提案されたBi-DRNフレームワークは、エネルギー分解能の精度において既存の最先端手法を上回るか？
• RQ3 双方向拡張畳み込みの使用は、単方向または標準畳み込みネットワークと比較して、性能向上にどのように寄与するか？
• RQ4 残差学習構造は、NILMにおける深層ネットワークの学習困難をどの程度軽減できるか？
• RQ5 本手法は、REDDおよびUK-DALEのような多様な実世界データセットにどの程度一般化可能か？

主な発見

• 提案されたBi-DRNフレームワークは、REDDおよびUK-DALEの両データセットで最先端の性能を達成し、すべての家電機器カテゴリで既存手法を上回った。
• F1スコアおよび平均絶対誤差（MAE）の両面で、すべての家電機器において顕著な改善が見られ、Seq2pointベースラインを一貫して上回った。
• 双方向設計により、過去および未来の電力トレンドを統合した文脈モデリングが可能になり、予測精度が向上した。
• 拡張畳み込みの使用により、パrameter数や計算コストを増加させることなく、長距離依存関係を効果的に捉えることができた。
• 残差接続により学習が安定化し、収束性が向上し、深層アーキテクチャにおける消失勾配および爆発勾配の問題が軽減された。
• 異なる家庭の電力プロファイルにわたっても良好に一般化され、多様な実世界データセットにおいて頑健な性能を示した。