[논문 리뷰] Sequence to Point Learning Based on Bidirectional Dilated Residual Network for Non Intrusive Load Monitoring

Ziyue Jia, Linfeng Yang외 3명|arXiv (Cornell University)|2020. 05. 30.

Smart Grid Energy Management참고 문헌 26인용 수 6

한 줄 요약

이 논문은 비정상적 부하 모니터링(NILM)을 위한 순서에서 점으로의 학습 프레임워크를 제안하며, 이는 이중 방향 확장 잔차 신경망(Bi-DRN)을 사용하여 깊이 있는 네트워크 학습 및 장거리 의존성 모델링의 과제를 해결한다. REDD 및 UK-DALE 데이터셋에서의 실험 결과, 모든 가전기기에서 우수한 성능을 보이며, 에너지 분리 정확도에서 최신 기술을 초월한다.

ABSTRACT

Non Intrusive Load Monitoring (NILM) or Energy Disaggregation (ED), seeks to save energy by decomposing corresponding appliances power reading from an aggregate power reading of the whole house. It is a single channel blind source separation problem (SCBSS) and difficult prediction problem because it is unidentifiable. Recent research shows that deep learning has become a growing popularity for NILM problem. The ability of neural networks to extract load features is closely related to its depth. However, deep neural network is difficult to train because of exploding gradient, vanishing gradient and network degradation. To solve these problems, we propose a sequence to point learning framework based on bidirectional (non-casual) dilated convolution for NILM. To be more convincing, we compare our method with the state of art method, Seq2point (Zhang) directly and compare with existing algorithms indirectly via two same datasets and metrics. Experiments based on REDD and UK-DALE data sets show that our proposed approach is far superior to existing approaches in all appliances.

연구 동기 및 목표

• 비정상적 부하 모니터링(NILM)에서의 깊이 있는 신경망 학습 과제, 예를 들어 사라지는 기울기 및 폭발하는 기울기 문제를 해결하기 위해.
• 집계 전력 시계열에서 장기적인 시간적 의존성 모델링을 향상시켜 정확한 가전기기 분리에 기여하기 위해.
• 기존의 딥 러닝 방법보다 뛰어난 성능을 보이는 견고한 순서에서 점으로의 학습 프레임워크를 개발하기 위해.
• 표준화된 데이터셋(REDD 및 UK-DALE)과 일관된 평가 지표를 사용하여 방법의 타당성을 검증하기 위해.
• 이중 방향 확장 컨볼루션의 활용이 전력 시계열 데이터에서 과거와 미래의 맥락을 효과적으로 포착하여 성능 향상에 기여하는지 확인하기 위해.

제안 방법

• 이 방법은 수신장이 점점 증가하는 확장 컨볼루션을 사용하여 전력 시계열에서 장거리 의존성을 모델링하기 위해 이중 방향 확장 잔차 신경망(Bi-DRN)을 적용한다.
• 과거와 미래 시간 단계에서의 시간적 맥락을 포착하기 위해 확장 컨볼루션을 정방향과 역방향 양쪽으로 적용한다.
• 잔차 블록 내의 스킵 연결은 학습 중에 기울기 소실 및 네트워크 열화 문제를 완화한다.
• 집계 전력의 시퀀스를 단일 점의 가전기기 전력 추정치로 매핑하는 순서에서 점 학습 프레임워크를 사용하여 엔드 투 엔드 방식으로 네트워크를 학습시킨다.
• NILM 문제에서 흔히 나타나는 단일 채널, 식별 불가능한 블라인드 소스 분리 문제에 최적화된 아키텍처이다.
• 전력 분리에 적합한 손실 함수를 사용하여 표준 딥 러닝 최적화 기법을 적용하여 모델을 학습시킨다.

실험 결과

연구 질문

• RQ1 이중 방향 확장 잔차 신경망은 가정 전력 시계열에서 장기적인 시간적 의존성을 효과적으로 모델링할 수 있는가?
• RQ2 제안된 Bi-DRN 프레임워크는 에너지 분리 정확도에서 기존의 최신 기술을 초월하는가?
• RQ3 이중 방향 확장 컨볼루션의 사용이 단방향 또는 표준 컨볼루션 네트워크와 비교해 성능 향상에 기여하는가?
• RQ4 잔차 학습 구조는 깊이 있는 네트워크 학습 과제, 예를 들어 기울기 소실 및 폭발 문제를 어느 정도 완화하는가?
• RQ5 제안된 방법은 REDD 및 UK-DALE와 같은 다양한 실제 데이터셋에 대해 얼마나 일반화 가능한가?

주요 결과

• 제안된 Bi-DRN 프레임워크는 REDD 및 UK-DALE 데이터셋 모두에서 최신 기술 수준의 성능을 달성하여 모든 가전기기 유형에서 기존 방법을 능가한다.
• 모든 가전기기에서 F1 점수 및 평균 절대 오차(MAE)가 크게 향상되었으며, Seq2point 베이스라인 대비 일관된 개선을 보였다.
• 이중 방향 설계 덕분에 과거와 미래의 전력 추세를 모두 포함한 더 나은 맥락 모델링이 가능해져 예측 정확도가 향상되었다.
• 확장 컨볼루션의 사용은 파rameter 수나 계산 비용을 증가시키지 않으면서도 장거리 의존성을 효과적으로 포착하였다.
• 잔차 연결은 학습을 안정화시키고 수렴을 향상시켜 깊이 있는 아키텍처에서 기울기 소실 및 폭발 문제를 줄였다.
• 다양한 가정 전력 프로파일에 대해 잘 일반화되어 있으며, 다양한 실제 데이터셋에서 뛰어난 견고성을 보였다.