[論文レビュー] Nearest-Neighbor Based Non-Parametric Probabilistic Forecasting with Applications in Photovoltaic Systems

Jorge Ángel González Ordiano, Wolfgang Doneit+4 more|arXiv (Cornell University)|Jan 23, 2017

Energy Load and Power Forecasting参考文献 5被引用数 7

ひとこと要約

本稿では、非微分可能損失関数であるピンバック損失を最適化せずに、従来の回帰モデルが分位数回帰を実行できるようにするため、k-近傍法（k-NN）に基づく手法を提案する。訓練データを変換することで、非パラメトリックな確率的予測を簡素化し、太陽光発電の発電量に対する高精度な確率的予測を達成する。サポートベクターレグレッション（SVR）は、長時間の学習を要するが、予測区間の精度が最も高かった。

ABSTRACT

The present contribution offers a simple methodology for the obtainment of data-driven interval forecasting models by combining pairs of quantile regressions. Those regressions are created without the usage of the non-differentiable pinball-loss function, but through a k-nearest-neighbors based training set transformation and traditional regression approaches. By leaving the underlying training algorithms of the data mining techniques unchanged, the presented approach simplifies the creation of quantile regressions with more complex techniques (e.g. artificial neural networks). The quality of the presented methodology is tested on the usecase of photovoltaic power forecasting, for which quantile regressions using polynomial models as well as artificial neural networks and support vector regressions are created. From the resulting evaluation values it can be concluded that acceptable interval forecasting models are created.

研究の動機と目的

• ピンバック損失のような非微分可能損失関数を用いた、複雑な非パラメトリックな確率的予測モデルの学習という課題に対処すること。
• k-NNを用いた訓練データの変換により、人工ニューラルネットワーク（ANN）やサポートベクターレグレッション（SVR）のような高度なモデルに対して、分位数回帰の作成を簡素化すること。
• 複数の分位数回帰を組み合わせることで、所定のカバレッジを満たす予測区間を形成し、太陽光発電システムにおける確率的予測を可能にすること。
• さまざまな回帰手法とk-NNの設定を用いて、実世界のPV発電データを用いて提案手法の性能を評価すること。
• 異なる名目カバレッジ水準における予測区間の信頼性と精度を評価すること。

提案手法

• 各ターゲット点に対してk個の近い近傍を特定し、それらのターゲット値を用いて、各分位数のための標準的回帰モデルを学習する。
• 各分位数 q ∈ [0.01, 0.99] に対して、k-NNサブセット上で別個の回帰モデルを学習し、ターゲット変数の条件付き q-分位数を近似する。
• k-NN変換により、各分位数回帰の訓練データが局所的に代表的になるようにし、従来の回帰アルゴリズムが暗黙的に分位数行動を学習できるようにする。
• 予測区間は、2つの分位数回帰（例：q = 0.1 と q = 0.9）の出力を組み合わせることで、所定の名目カバレッジを持つ確率的予測を生成する。
• k-NNによるデータ再重み付けを活用することで、非微分可能損失関数の直接最適化を回避し、ANN、SVR、多項式モデルなどの標準的な学習アルゴリズムを維持する。
• モデルの評価には、信頼性のずれとピンバック損失を用い、近傍数や名目カバレッジの変化に応じた結果の分析を行う。

実験結果

リサーチクエスチョン

• RQ1 k-近傍法によるデータ変換により、非微分可能損失関数の直接最適化を回避しながら、標準的回帰モデルが分位数回帰を実行できるか。
• RQ2 近傍数の変更が、太陽光発電予測における予測区間の信頼性と精度に与える影響は何か。
• RQ3 SVR や ANN といった複雑なモデルに適用した場合、従来手法と比較して本手法がより正確で信頼性の高い予測区間を提供するか。
• RQ4 多項式、ANN、SVR といった異なる回帰手法が、k-NNに基づく分位数回帰フレームワーク内でどのように性能を発揮するか。
• RQ5 得られた予測区間が、名目カバレッジを維持し、自明または過小評価された予測を避ける程度はどの程度か。

主な発見

• k-NNに基づく手法により、訓練データの変換によって標準的回帰モデルが分位数回帰を実行可能となり、非微分可能ピンバック損失関数の直接最適化を回避した。
• サポートベクターレグレッション（SVR）が最も精度の高い分位数回帰と予測区間を生成したが、学習時間が著しく長く（99分位数で約24分）、コストがかかる。
• 多項式モデルは、わずかな学習時間（99分位数で約1分）で妥当な性能を発揮し、リアルタイム応用に適している。
• 人工ニューラルネットワーク（ANN）は、99分位数回帰の学習に約12分を要し、精度と計算コストのバランスに優れていた。
• カバレッジが0.3を超える範囲では、信頼性のずれが低く、さまざまな名目カバレッジ水準で一貫した性能を示した。
• 自明な予測区間を回避したことが、カバレッジが0.4を超える場合にピンバック損失が低く、低カバレッジでは観測された分位数が区間外に多く現れるという事実から裏付けられ、非自明な区間生成が確認された。