[논문 리뷰] Non-Intrusive Load Monitoring with an Attention-based Deep Neural Network.

Antonio M. Sudoso, Veronica Piccialli|arXiv (Cornell University)|2019. 11. 15.

Smart Grid Energy Management참고 문헌 15인용 수 10

한 줄 요약

이 논문은 회귀 하위망과 분류 하위망을 결합한 주의 기반 딥 네ural 네트워크를 제안하여 비침습적 부하 모니터링(NILM)을 수행한다. 회귀 브랜치에 맞춤형 시간 주의 메커니즘을 통합함으로써, 기기의 켜짐/꺼짐 이벤트 및 고전력 소비 세그먼트 탐지 능력이 향상되었으며, REDD 및 UK-DALE 데이터셋에서 최신 기술 대비 뛰어난 성능을 보였다.

ABSTRACT

Energy disaggregation, known in the literature as Non-Intrusive Load Monitoring (NILM), is the task of inferring the system appliance loads given an aggregate energy signal, for example coming from a residential power monitor. In this paper, we propose a deep neural network that combines a regression subnetwork with a classification subnetwork for solving the NILM problem. Specifically, we improve the representational power of the overall architecture by including an encoder-decoder with a tailored attention mechanism in the regression subnetwork. The attention mechanism is inspired by the temporal attention that has been recently successfully applied in neural machine translation, text summarization and speech recognition. The experiments have been conducted on two publicly available datasets REDD and UK-DALE. The results show that our proposed deep neural network outperforms the state-of-the-art in all the considered experimental conditions. We also show that modeling attention translates into the network's ability to correctly detect the turning on or off an appliance and to locate signal sections with high power consumption, that are of extreme interest in the field of energy disaggregation.

연구 동기 및 목표

• 집계 전력 신호 내 시간 패턴의 표현을 향상시켜 에너지 분해 정확도를 높이는 것.
• 기기 켜짐 및 꺼짐 이벤트를 고정밀도로 탐지하는 데 도전하는 것.
• 에너지 효율 분 析에 핵심적인 고전력 소비 세그먼트를 국소화하는 것.
• 더 나은 시간 모델링을 위한 주의 메커니즘을 통합한 딥 러닝 아키텍처를 개발하는 것.
• 기존 최신 기술 방법들을 벤치마크 NILM 데이터셋에서 능가하는 것.

제안 방법

• 모델은 이중 브랜치 아키텍처를 사용한다: 개별 기기 전력 예측을 위한 회귀 하위망과 기기 상태 탐지를 위한 분류 하위망.
• 회귀 하위망은 자연어 처리(NLP)의 시퀀스 모델링에서 영감을 얻은 맞춤형 시간 주의 메커니즘을 포함한 인코더-디코더 구조를 갖는다.
• 주의 메커니즘은 입력 신호의 관련 시간 세그먼트에 집중하여 전력 소비 패턴에 대한 특징 표현을 향상시킨다.
• 모델은 종합 손실 함수를 사용하여 끝에서 끝까지 엔드 투 엔드로 훈련되며, 이는 회귀 및 분류 목표를 동시에 최적화한다.
• 표준 NILM 평가 지표를 사용하여 두 개의 공개 데이터셋인 REDD 및 UK-DALE에서 아키텍처를 평가한다.
• 주의 메커니즘은 전이 및 고전력 이벤트와 같은 주목할 만한 신호 영역에 주의를 기울일 수 있도록 한다.

실험 결과

연구 질문

• RQ1 기존 방법과 비교해 주의 기반 딥 네URAL 네트워크가 비침습적 부하 모니터링 정확도를 향상시킬 수 있는가?
• RQ2 시간 주의 메커니즘의 통합이 기기 켜짐 및 꺼짐 이벤트 탐지 능력을 향상시키는가?
• RQ3 주의 기반 특징 학습을 통해 모델이 고전력 소비 세그먼트를 더 잘 국소화할 수 있는가?
• RQ4 제안된 아키텍처는 벤치마크 데이터셋 내 다양한 주거용 에너지 소비 패턴에서 어떻게 성능을 발휘하는가?
• RQ5 주의 메커니즘이 NILM 작업에서 모델의 강인성과 일반화 능력을 얼마나 향상시키는가?

주요 결과

• 제안된 모델은 모든 실험 조건에서 REDD 및 UK-DALE 데이터셋에서 최신 기술 방법을 능가한다.
• 주의 메커니즘이 기기 켜짐 및 꺼짐 이벤트 탐지 능력에 있어 높은 정밀도로 향상시켰다.
• 모델은 에너지 분 析에 핵심적인 고전력 소비 세그먼트를 향상된 수준으로 국소화함을 보였다.
• 회귀 하위망의 인코더-디코더에 주의 기반 기능을 통합함으로써 시간 전력 패턴의 더 나은 표현 학습이 이루어졌다.
• 종합된 회귀 및 분류 하위망 아키텍처는 단일 작업 모델보다 더 정확한 분해 결과를 도출했다.
• 모델은 평균 F1 점수 및 기타 표준 NILM 평가 지표에서 뛰어난 성능을 기록했다.