[論文レビュー] Sky-image-based solar forecasting using deep learning with multi-location data: training models locally, globally or via transfer learning?

Yuhao Nie, Quentin Paletta+6 more|arXiv (Cornell University)|Nov 3, 2022

Solar Radiation and Photovoltaics被引用数 9

ひとこと要約

本研究では、3か所の地理的に異なるデータセットから得たスカイイメージを用いた深層学習ベースの太陽光発電予測において、局所学習、グローバル学習、およびトランスファーラーニング手法を比較した。大規模で多様なグローバルデータセットで事前学習し、ターゲットサイトでファインチューニングすることで、初期学習から訓練する場合に比べて80%の訓練作業を削減しつつ1%の精度向上を達成した。これは、マルチロケーションの太陽光発電予測において、トランスファーラーニングが最も効率的で効果的な戦略であることを示している。

ABSTRACT

Solar forecasting from ground-based sky images has shown great promise in reducing the uncertainty in solar power generation. With more and more sky image datasets open sourced in recent years, the development of accurate and reliable deep learning-based solar forecasting methods has seen a huge growth in potential. In this study, we explore three different training strategies for solar forecasting models by leveraging three heterogeneous datasets collected globally with different climate patterns. Specifically, we compare the performance of local models trained individually based on single datasets and global models trained jointly based on the fusion of multiple datasets, and further examine the knowledge transfer from pre-trained solar forecasting models to a new dataset of interest. The results suggest that the local models work well when deployed locally, but significant errors are observed when applied offsite. The global model can adapt well to individual locations at the cost of a potential increase in training efforts. Pre-training models on a large and diversified source dataset and transferring to a target dataset generally achieves superior performance over the other two strategies. With 80% less training data, it can achieve comparable performance as the local baseline trained using the entire dataset.

研究の動機と目的

• 複数のグローバルな場所からのデータを用いて、深層学習モデルの太陽光発電予測における訓練の有効性を評価すること。
• 1地点ごとの局所学習、複数地点のグローバルな統合学習、および事前学習済みグローバルモデルからのトランスファーラーニングという3つの訓練戦略を比較すること。
• 特に放射照度のターゲットにおけるスケールや分布の違いを含む、データセットの多様性がモデルの一般化性能に与える影響を評価すること。
• 多様なソースデータセットで事前学習したモデルの知識が、データが少ないターゲットサイトでの性能向上に寄与するかどうかを特定すること。
• オープンソースのスカイイメージデータセットを活用して、訓練コストを低減し、複数の場所での予測精度を向上させる根拠に基づく指針を提供すること。

提案手法

• 3つの深層学習モデルを訓練した：1つのデータセットごとに個別に学習する局所モデル、3つのデータセットを統合して学習するグローバルモデル、および結合されたグローバルデータセットで事前学習し、ターゲットデータセットでファインチューニングするトランスファーラーニングモデル。
• モデルは、時系列モデリングにConvLSTM層を備えたU-Netベースのエンコーダデコーダアーキテクチャを採用し、スカイイメージから15分後の太陽放射照度をエンドツーエンドで予測可能である。
• トランスファーラーニングでは2つの戦略を評価した：初期の畳み込みブロックを凍結する方法と、すべての層をファインチューニングする方法。後者がより優れた性能を示した。
• モデルの訓練には10分割交差検証を用い、妥当性を確保した。性能評価はテストセットにおける平均二乗誤差（RMSE）を用いた。
• グローバルモデルは、ソースデータセットのみで訓練され、ターゲットのテストセットに直接適用された。これにより、一般化能力の比較が可能になった。
• 訓練作業は、訓練サンプル数と訓練エポック数の積として定量化され、結果はミリオン（M）単位で報告された。

実験結果

リサーチクエスチョン

• RQ1 複数の場所のデータを統合して1つのグローバルモデルを訓練することで、1地点ごとの局所モデルに比べて一般化性能が向上するか？
• RQ2 特に放射照度のスケールや分布の違いを含む、データセットの多様性がグローバルモデルの性能に与える影響は何か？
• RQ3 大規模で多様なグローバルデータセットで事前学習したモデルを、新しい場所に転移することで、訓練作業を大幅に削減しつつ、精度を維持または向上できるか？
• RQ4 低データ環境における太陽光発電予測において、最適なトランスファーラーニング戦略（例：初期層の凍結 vs. 全層のファインチューニング）は何か？
• RQ5 トランスファーラーニングは、80%少ない訓練データで、局所学習と同等またはそれ以上の性能を達成できるか？

主な発見

• 結合されたグローバルデータセットで事前学習し、DEWAデータセットでファインチューニングしたトランスファーラーニングモデルは、初期学習から訓練した局所ベースラインモデルに比べて1%の精度向上を達成した。
• 訓練データの20%しか使用しなかったにもかかわらず、トランスファーラーニングモデルは、全データセットで訓練した局所モデルに比べて、80%の訓練作業（パラメータ・エポック演算）を削減した。
• 局所モデルは、訓練した場所に適用した場合には最も優れた性能を示したが、他の場所に適用した場合には顕著な誤差を示した。これは、場所に特化した回帰関数に起因する一般化の欠如を示している。
• グローバルモデルは優れた一般化能力を示し、個々の場所での性能が局所モデルを上回ったが、それに伴い訓練作業が増加した。
• 最良のトランスファーラーニング戦略は、すべての層をファインチューニングする方法であり、初期畳み込みブロックを凍結する手法を上回った。
• 本研究の結果は、大規模で多様なグローバルデータセットで事前学習することで、特にデータが限られる場所においても、効率的かつ高精度な太陽光発電予測が可能になることを示している。