[論文レビュー] Surrogate Optimization of Deep Neural Networks for Groundwater Predictions

Juliane Mueller, Jangho Park+5 more|arXiv (Cornell University)|Aug 28, 2019

Hydrological Forecasting Using AI参考文献 83被引用数 7

ひとこと要約

本稿では、カリフォルニア州バット・カウンティの毎日の地下水位を予測するための深層ニューラルネットワーク向けのサーロゲートベースのハイパーパramータ最適化（HPO）フレームワークを提案する。径路基底関数（RBF）およびガウス過程（GP）をサーロゲートモデルとして用い、RBFを用いて最適化されたマルチレイヤーパーセプトロン（MLP）が、予測精度（RMSE ≤ 2メートル）と計算効率の両立が図られ、LSTM や CNN といったより複雑なモデルよりも精度とソリューション時間の両面で優れていることを示している。

ABSTRACT

Sustainable management of groundwater resources under changing climatic conditions require an application of reliable and accurate predictions of groundwater levels. Mechanistic multi-scale, multi-physics simulation models are often too hard to use for this purpose, especially for groundwater managers who do not have access to the complex compute resources and data. Therefore, we analyzed the applicability and performance of four modern deep learning computational models for predictions of groundwater levels. We compare three methods for optimizing the models' hyperparameters, including two surrogate model-based algorithms and a random sampling method. The models were tested using predictions of the groundwater level in Butte County, California, USA, taking into account the temporal variability of streamflow, precipitation, and ambient temperature. Our numerical study shows that the optimization of the hyperparameters can lead to reasonably accurate performance of all models (root mean squared errors of groundwater predictions of 2 meters or less), but the ''simplest'' network, namely a multilayer perceptron (MLP) performs overall better for learning and predicting groundwater data than the more advanced long short-term memory or convolutional neural networks in terms of prediction accuracy and time-to-solution, making the MLP a suitable candidate for groundwater prediction.

研究の動機と目的

• 気候変動下における信頼性の高い、正確で、計算リソースを軽減できる地下水位予測の課題に対処すること。
• MLP、RNN、LSTM、CNN の4つのディープラーニングモデルが、毎日の地下水位時系列データに対してどのように性能を発揮するかを評価すること。
• ランダムサンプリング、RBFベースのサーロゲート、GPベースのサーロゲートの3つのハイパーパramータ最適化（HPO）手法を比較すること。
• 限られた計算リソース下での実用的地下水管理に最も効果的なモデル-HPOの組み合わせを特定すること。
• 最良のパフォーマンスを示したモデルの一般化可能性と、データ量、入力変数、流域特性に対する感受性を評価すること。

提案手法

• 上位最適化（ハイパーパramータ選択）と下位最適化（ニューラルネットワーク重み最適化）からなる二段階最適化問題を定式化した。
• 2つのサーロゲートモデルベースのHPO手法を適用した：目的関数を近似するための径路基底関数（RBF）モデルとガウス過程（GP）モデル。
• 比較のためのベースラインとしてランダムサンプリングをHPO手法として用いた。
• カリフォルニア州バット・カウンティの1つまたは3つの井戸から得られた、地下水位、降水量、河川流出量、気温の毎時観測データを用いてモデルを学習させた。
• 複数井戸ケースでは、複数の井戸における検証誤差の重み付き和を最適化目的関数として用いた。
• 予測性能は、予測された地下水位と観測された地下水位との間の平均二乗誤差（RMSE）を用いて評価した。

実験結果

リサーチクエスチョン

• RQ1 非定常な水文的システムにおける毎日の地下水位予測に最も適したディープラーニングモデルアーキテクチャ（MLP、RNN、LSTM、CNN）はどれか？
• RQ2 RBFおよびGPベースのサーロゲートHPO手法は、ランダムサンプリングに比べて、予測精度と最適化時間の両面でどのように差をつけるか？
• RQ3 単一井戸と複数井戸の予測設定の間で、モデルのパフォーマンスに顕著な差が生じるか？
• RQ4 モデルの複雑さと訓練時間は、異なるHPO戦略において予測精度とどのように相関するか？
• RQ5 RBF最適化MLPモデルは、水文地質的および気象的条件が異なる他の流域にも一般化可能か？

主な発見

• RBFベースのサーロゲート手法で最適化されたマルチレイヤーパーセプトロン（MLP）は、すべてのテストケースで2メートル以下の最小平均二乗誤差（RMSE）を達成した。
• RBFベースのHPO手法は、最良のパフォーマンスを示すモデルアーキテクチャを、最短の合計最適化時間で得ており、GPベースおよびランダムサンプリング手法を上回った。
• LSTMモデルは、性能に高いばらつきを示し、大きな予測ジャンプを示しており、ハイパーパramータ選択に対して脆弱で感度が高かった。
• RNNモデルは最も効果が低く、バックプロパゲーション中の勾配消失問題により、頻繁に収束しなかった。
• CNNモデルは良好な予測精度を達成したが、MLPに比べて著しく長い計算時間を要し、リアルタイム応用には効率的でなかった。
• 複数井戸ケースでは、最も複雑な時系列（例：深刻なドロップダウンを示す井戸C）に最適化プロセスがより敏感であることが判明した。これは、重み付き誤差目的関数を用いることで、より高い耐性が得られることを示唆している。