[論文レビュー] Sequence-to-point learning with neural networks for nonintrusive load monitoring

Chaoyun Zhang, Mingjun Zhong+3 more|arXiv (Cornell University)|Dec 29, 2016

Smart Grid Energy Management参考文献 20被引用数 131

ひとこと要約

単一チャネル NILM のための CNN を用いた seq2point 学習を導入し、窓の中点を予測して分解精度を向上させる。学習済みの家電シグネチャを用いて UK-DALE および REDD データセットで最先端の MAE および SAE を達成。

ABSTRACT

Energy disaggregation (a.k.a nonintrusive load monitoring, NILM), a single-channel blind source separation problem, aims to decompose the mains which records the whole house electricity consumption into appliance-wise readings. This problem is difficult because it is inherently unidentifiable. Recent approaches have shown that the identifiability problem could be reduced by introducing domain knowledge into the model. Deep neural networks have been shown to be a promising approach for these problems, but sliding windows are necessary to handle the long sequences which arise in signal processing problems, which raises issues about how to combine predictions from different sliding windows. In this paper, we propose sequence-to-point learning, where the input is a window of the mains and the output is a single point of the target appliance. We use convolutional neural networks to train the model. Interestingly, we systematically show that the convolutional neural networks can inherently learn the signatures of the target appliances, which are automatically added into the model to reduce the identifiability problem. We applied the proposed neural network approaches to real-world household energy data, and show that the methods achieve state-of-the-art performance, improving two standard error measures by 84% and 92%.

研究の動機と目的

• エネルギー分解(NILM)を単一チャネルの Blind Source Separation(BSS) 問題として動機づけ、データから学習したドメイン情報を活用して識別可能性を改善する。
• 境界効果を回避し予測精度を向上させるために sequence-to-point 学習を提案する。
• CNN が手作り特徴量なしで自動的に家電シグネチャ（変化点、使用時間、電力レベル）を学習できることを示す。
• UK-DALE および REDD データセットで実証的に検証し、従来法より著しい誤差低減を達成する。
• CNN の特徴マップの可視化を通じて学習された特徴を解釈し、予測の根拠を理解する。

提案手法

• seq2seq を seq2point に置換し、入力の主電源窓 Y_t:t+W-1 から中点の家電値 x_tau を予測する。
• 直接比較できるよう seq2seq と seq2point に同じ CNN アーキテクチャを使用する。
• シーケンスをパディングし窓をスライドして学習サンプルを生成し、中点出力の対数尤度を最小化するよう訓練する。
• seq2seq と seq2point を事後密度推定器として扱い、seq2point が目標分布へのより厳密な近似を与えると示す（定理1）。
• seq2point が関連する中点予測に学習容量を集中させ、エッジ関連の予測問題を低減することを、分析的および経験的に正当化する。
• UK-DALE および REDD データセットで評価し、AFHMM および seq2seq のベースラインと比較する。

実験結果

リサーチクエスチョン

• RQ1 seq2point 学習は単一チャネル分解において seq2seq アプローチより NILM の精度を改善するか。
• RQ2 CNN は生の mains データから家電固有のシグネチャ（変化点、使用時間、電力レベル）を自動的に学習できるか。
• RQ3 世帯間およびデータセット間の転移学習設定で seq2point はどのように機能するか（UK-DALE および REDD）。
• RQ4 一般的な NILM 家電に対して seq2point を使用した場合の MAE および SAE の定量的な向上はどの程度か。
• RQ5 学習された特徴は解釈可能で、既知の家電使用パターンと一致するか。

主な発見

Method	Kettle MAE	Microwave MAE	Fridge MAE	Dish Washer MAE	Washing Machine MAE	Overall MAE
AFHMM	47.38	21.18	42.35	199.84	103.24	82.79 ± 64.50
seq2seq(Kelly)	13.00	14.559	38.451	237.96	163.468	93.488 ± 91.112
seq2seq(this paper)	9.220	13.619	24.489	32.515	10.153	17.999 ± 9.063
seq2point(this paper)	7.439	8.661	20.894	27.704	12.663	15.472 ± 7.718

• Seq2point は UK-DALE で seq2seq および従来のベースラインよりはるかに低い誤差を実現し、全体の MAE 15.472 と SAE 0.321（対して seq2seq は MAE 17.999、SAE 0.423）。
• Seq2point は seq2seq(Kelly) より MAE が約84%、SAE が約92%改善。
• REDD では seq2point は全体で MAE 23.693、SAE 0.270 を得て、seq2seq（MAE 26.552、SAE 0.355）を上回る。
• UK-DALE の各家電で seq2point は Kettle、Microwave、Fridge、Dish Washer、Washing Machine の MAE を seq2seq(Kelly) および seq2seq(this paper) より低減。
• CNN の特徴マップの可視化は、変化点、典型的な使用時間、電力レベルなどの学習された家電シグネチャを示し、手作り NILM 特徴量と一致しつつ自動的に学習されることを示す。
• 理論分析（定理1）は、同じアーキテクチャを使用する場合、seq2point が中点値の目標後方分布へのより厳密な近似を提供することを証明する。