[논문 리뷰] Spatiotemporal Attention Networks for Wind Power Forecasting

Xingbo Fu, Feng Gao외 3명|arXiv (Cornell University)|2019. 09. 14.

Energy Load and Power Forecasting참고 문헌 16인용 수 4

한 줄 요약

이 논문은 풍력 발전 예측을 위한 시공간 주의 메커니즘 네트워크(STAN)를 제안한다. 이는 비유클리드 공간 상관관계를 모델링하기 위해 다중 헤드 자기주의를 활용하고, 장기적인 시간적 의존성을 포착하기 위해 글로벌 주의 메커니즘을 갖춘 시퀀스 투 시퀀스 모델을 결합한다. 이 프레임워크는 기준 모델 대비 뛰어난 예측 정확도를 달성하여 주의 메커니즘이 풍력 데이터의 복잡한 시공간 패턴을 모델링하는 데 효과적임을 입증한다.

ABSTRACT

Wind power is one of the most important renewable energy sources and accurate wind power forecasting is very significant for reliable and economic power system operation and control strategies. This paper proposes a novel framework with spatiotemporal attention networks (STAN) for wind power forecasting. This model captures spatial correlations among wind farms and temporal dependencies of wind power time series. First of all, we employ a multi-head self-attention mechanism to extract spatial correlations among wind farms. Then, temporal dependencies are captured by the Sequence-to-Sequence (Seq2Seq) model with a global attention mechanism. Finally, experimental results demonstrate that our model achieves better performance than other baseline approaches. Our work provides useful insights to capture non-Euclidean spatial correlations.

연구 동기 및 목표

• 풍력 발전소 데이터의 복잡한 시공간 의존성을 모델링하여 풍력 발전 예측 정확도를 향상시키기.
• 지리적으로 분산된 풍력 발전소 간의 비유클리드 공간 상관관계를 포착하는 데 도전 과제를 해결하기.
• 시간적 시퀀스 모델링과 공간 주의 메커니즘을 통합하여 예측 성능을 향상시키기.
• 재생 가능 에너지 예측을 위한 확장 가능하고 효과적인 딥러닝 프레임워크 제공하기.

제안 방법

• 풍력 발전소를 비유클리드 그래프의 노드로 간주하여, 다중 헤드 자기주의를 활용해 공간 상관관계를 모델링한다.
• 글로벌 주의 메커니즘을 갖춘 시퀀스 투 시퀀스(Seq2Seq) 아키텍처를 사용해 풍력 시계열의 장기적 시간적 의존성을 모델링한다.
• 공간 및 시간 모델링 구성 요소를 통합된 엔드 투 엔드 학습 가능한 프레임워크로 통합한다.
• 예측 과정에서 다양한 풍력 발전소와 시간 단위의 중요도를 동적으로 가중치를 매기기 위해 주의 메커니즘을 활용한다.
• 공간적 및 시간적 레이블을 갖춘 다수의 풍력 발전소에서의 풍력 발전 데이터를 사용해 모델을 훈련시킨다.

실험 결과

연구 질문

• RQ1 자기주의 메커니즘이 지리적으로 산만한 풍력 발전소 간의 비유클리드 공간 관계를 효과적으로 모델링할 수 있는가?
• RQ2 글로벌 주의 메커니즘을 갖춘 Seq2Seq 모델은 풍력 시계열의 장거리 시간적 의존성을 얼마나 잘 포착할 수 있는가?
• RQ3 공간 주의와 시간 주의를 통합하면 단독 모델 대비 예측 정확도 향상이 이루어지는가?
• RQ4 제안된 STAN 프레임워크는 기존의 전통적 기준 모델 대비 풍력 발전 예측 과제에서 어떻게 성능을 냅니다?

주요 결과

• STAN 모델은 전통적인 기계학습 및 딥러닝 접근 방식을 포함한 여러 기준 모델보다 더 뛰어난 예측 성능을 달성한다.
• 다중 헤드 자기주의를 통한 공간 모델링 통합이 복잡한 발전소 간 상호관계를 포착함으로써 정확도 향상에 기여한다.
• 글로벌 주의 메커니즘을 갖춘 Seq2Seq 모델은 풍력 시계열의 장기적 시간 패턴을 효과적으로 모델링한다.
• 제거 실험 결과, 공간 주의 및 시간 주의 구성 요소가 전체 성능 향상에 기여한다는 것이 확인된다.