[논문 리뷰] MATNet: Multi-Level Fusion Transformer-Based Model for Day-Ahead PV Generation Forecasting

Matteo Tortora, Francesco Conte외 2명|arXiv (Cornell University)|2023. 06. 17.

Solar Radiation and PhotovoltaicsComputer Science인용 수 3

한 줄 요약

MATNet는 역사적 PV 발전량, 역사적 기상 데이터 및 기상 예보 데이터를 통합하여 당일 예측, 다단계 태양광 발전 예측을 향상시키는 새로운 다중 수준 융합 트랜스포머 아키텍처를 제안한다. 자기주의 주의 메커니즘과 계층적 융합을 활용하여 MATNet는 Ausgrid 기준 데이터셋에서 RMSE 0.0460을 기록하며 최신 기술 수준의 성능을 달성한다.

ABSTRACT

Accurate forecasting of renewable generation is crucial to facilitate the integration of RES into the power system. Focusing on PV units, forecasting methods can be divided into two main categories: physics-based and data-based strategies, with AI-based models providing state-of-the-art performance. However, while these AI-based models can capture complex patterns and relationships in the data, they ignore the underlying physical prior knowledge of the phenomenon. Therefore, in this paper we propose MATNet, a novel self-attention transformer-based architecture for multivariate multi-step day-ahead PV power generation forecasting. It consists of a hybrid approach that combines the AI paradigm with the prior physical knowledge of PV power generation of physics-based methods. The model is fed with historical PV data and historical and forecast weather data through a multi-level joint fusion approach. The effectiveness of the proposed model is evaluated using the Ausgrid benchmark dataset with different regression performance metrics. The results show that our proposed architecture significantly outperforms the current state-of-the-art methods. These findings demonstrate the potential of MATNet in improving forecasting accuracy and suggest that it could be a promising solution to facilitate the integration of PV energy into the power grid.

연구 동기 및 목표

• 태양 에너지의 본질적 간헐성과 불확실성에 대비하여 정확한 당일 PV 발전 예측을 해결하기 위해.
• 다양한 데이터 기반 AI 모델과 물리 기반 예측 간 격차를 해소하기 위해 다중 모odal 데이터 융합을 통해 물리적 사전 지식을 통합하기 위해.
• 다양한 추상 수준에서 역사적 PV 데이터, 역사적 기상 데이터, 향후 기상 예보 데이터를 공동으로 모델링하여 예측 정확도를 향상시키기 위해.
• 가정용 및 전력망 규모의 PV 통합에 적합한 강건하고 해석 가능하며 확장 가능한 솔루션 개발하기 위해.

제안 방법

• MATNet는 다변량 시계열 데이터의 장거리 시간 의존성을 모델링하기 위해 자기주의 주의 기반 트랜스포머 아키텍처를 사용한다.
• PV 발전량, 역사적 기상, 기상 예보 입력을 다양한 추상 수준에서 융합하는 다중 수준 공동 융합 메커니즘을 구현하여 시간적 및 의미적 관계를 유지한다.
• 각 입력 모odal리티(PV, 역사적 기상, 예보 기상)에 대해 별도의 인코더를 사용한 후, 교차 주의를 통한 후기 융합을 통해 모달 간의 동적 상호작용을 가능하게 한다.
• 융합 전략은 입력을 적응적으로 가중할 수 있도록 하며, 악천후 조건에서는 기상 예보에 더 높은 비중을 두도록 한다.
• Ausgrid 데이터셋에서 회귀 손실 함수(MSE, RMSE, MAE, WMAPE, MASE)를 사용하여 엔드 투 엔드로 모델을 훈련시킨다.
• 제거 실험을 통해 모든 세 가지 입력 모달리티의 필요성을 확인하였으며, 전체 모델은 단일 모달리티 또는 부분 입력 버전보다 유의미하게 뛰어난 성능을 보였다.

실험 결과

연구 질문

• RQ1 역사적 PV 데이터, 역사적 기상, 향후 기상 예보를 융합하는 트랜스포머 기반 모델이 최신 기술 수준의 방법보다 뛰어난 예측 정확도를 달성할 수 있는가?
• RQ2 PV 또는 역사적 기상 데이터만 사용하는 것과 비교해 기상 예보를 포함할 경우 예측 성능에 어떤 영향을 미치는가?
• RQ3 다른 시간 예측 수준을 가진 이질적인 시계열 입력을 태양광 예측에서 최적의 융합 전략은 무엇인가?
• RQ4 특히 높은 불확실성의 기간 동안 기상 조건이 다양할 경우 모델의 성능은 어떻게 되는가?
• RQ5 기상 예보 신뢰도에 따라 각 입력 모달리티의 기여도를 동적으로 조정함으로써 모델의 강건성을 향상시킬 수 있는가?

주요 결과

• MATNet는 Ausgrid 기준 데이터셋에서 RMSE 0.0460을 기록하며 현재 최신 기술 수준의 방법들을 크게 앞서간다.
• 세 가지 입력 모달리티(PV, 역사적 기상, 예보 기상)를 모두 포함한 전체 모델이 가장 뛰어난 성능을 보였으며, Diebold-Mariano 검정에 따르면 모든 차이가 통계적으로 유의미하다(p < 0.01).
• 가장 뛰어난 단일 모달리티 구성은 기상 예보만을 사용한 것으로, 이는 기상 예보가 예측 정확도에서 핵심적인 역할을 한다는 것을 시사한다.
• 다중 수준 융합 메커니즘은 효과적인 다중 모달 주의를 가능하게 하여 모델이 복잡한 비선형 종속성을 더 잘 포착할 수 있도록 한다.
• 제거 실험을 통해 모든 세 가지 데이터 소스의 공동 융합이 고립 또는 부분 입력 조합보다 상당한 성능 향상을 이끌어낸다는 것이 확인되었다.
• 모델는 다양한 기상 조건 하에서도 강건성을 보이며, 적응형 융합 및 설명 가능한 AI 통합을 통해 향후 더 나은 성능 향상이 가능할 것으로 기대된다.