[論文レビュー] Physics-Guided Recurrent Graph Networks for Predicting Flow and Temperature in River Networks

Xiaowei Jia, Jacob A. Zwart+9 more|arXiv (Cornell University)|Sep 26, 2020

Hydrological Forecasting Using AI参考文献 23被引用数 8

ひとこと要約

本論文は、物理ベースのシミュレーションとグラフニューラルネットワークを統合することで、河川ネットワークにおける流出量および水温の予測を可能にするハイブリッド機械学習モデル、Physics-Guided Recurrent Graph Networks (PGRGrN) を提案する。物理モデルからの事前学習と、セグメント間のパフォーマンスをバランスさせるための対照的損失関数を活用することで、観測データのわずか 0.1% のみを用いても、最先端の物理モデル比で水温予測で 33%、流出量予測で 14% の性能向上を達成した。

ABSTRACT

This paper proposes a physics-guided machine learning approach that combines advanced machine learning models and physics-based models to improve the prediction of water flow and temperature in river networks. We first build a recurrent graph network model to capture the interactions among multiple segments in the river network. Then we present a pre-training technique which transfers knowledge from physics-based models to initialize the machine learning model and learn the physics of streamflow and thermodynamics. We also propose a new loss function that balances the performance over different river segments. We demonstrate the effectiveness of the proposed method in predicting temperature and streamflow in a subset of the Delaware River Basin. In particular, we show that the proposed method brings a 33\%/14\% improvement over the state-of-the-art physics-based model and 24\%/14\% over traditional machine learning models (e.g., Long-Short Term Memory Neural Network) in temperature/streamflow prediction using very sparse (0.1\%) observation data for training. The proposed method has also been shown to produce better performance when generalized to different seasons or river segments with different streamflow ranges.

研究の動機と目的

• 観測データが非常に少ない状況と複雑な物理的相互作用を伴う河川ネットワークにおける流出量および水温の予測の課題に対処すること。
• 観測が不足しているまたは poorly monitored な河川セグメントに一般化できない純粋なデータ駆動型機械学習モデルの限界を克服すること。
• 物理ベースのシミュレーションを機械学習フレームワークに統合することで、低データ環境下での一般化性と耐性を向上させること。
• 個々のセグメントを独立してモデル化するのではなく、相互に接続された河川セグメント間の空間的・時間的依存関係を捉える統合的モデルを構築すること。
• 新しい損失関数を用いて、ネットワーク全体の予測と個々のセグメントの予測の両方のパフォーマンスを向上させること。

提案手法

• 本手法は、河川セグメントをノード、それらの水文的相互作用をエッジとしてモデル化する再帰的グラフニューラルネットワーク（RGrN）アーキテクチャを採用し、時間経過に伴う上流・下流のダイナミクスを捉える。
• 水文的プロセスに関する事前知識を転送するために、物理ベースのモデルから得たシミュレーションデータを用いて重みを初期化する事前学習を実施する。
• 良好に観測されたセグメントに偏らないよう、セグメント間のパフォーマンスをバランスさせるために、対照的損失関数を導入する。
• 時間遅れ付きのメッセージパッシング機構（式 5）を組み込み、上流の流出が下流の水温および流出量に及ぼす遅れ効果を模擬する。
• データが限られる状況下での表現学習を向上させるために、観測変数に対する教師あり損失と対照的損失を組み合わせたハイブリッド損失関数を採用する。
• 物理的整合性とデータ忠実度の両立を図るため、λ（教師あり損失重み）およびγ（対照的損失重み）などのハイパーパrameter を最適化する。

実験結果

リサーチクエスチョン

• RQ1 物理ベースのシミュレーションを統合した機械学習モデルは、観測データが極めて少ない状況下でも、純粋なデータ駆動型モデルや物理モデルを上回る性能を示せるか？
• RQ2 グラフベースのモデルは、物理的に妥当性を保ちつつ、相互に接続された河川セグメント間の空間的・時間的依存関係を効果的に捉えられるか？
• RQ3 物理シミュレーションによる事前学習は、観測が不足しているまたは低流量の河川セグメントへの一般化性をどの程度向上させるか？
• RQ4 損失関数をどのように設計すれば、観測が良好なセグメントと観測が不足しているセグメントの両方のパフォーマンスをバランスさせられるか？
• RQ5 本手法は、既存のモデルと比較して、季節や水文的レジームの変化に対してもより優れた一般化性能を示すか？

主な発見

• PGRGrN は、観測データのわずか 0.1% のみを用いても、最先端の物理ベースモデル比で水温予測で 33%、流出量予測で 14% の性能向上を達成した。
• 寒冷期のデータのみで学習した場合、夏期の予測において水温の RMSE を 1.416 ± 0.019 まで低減し、次に優れたモデル（RNN ptr）を 22.5% 上回った。
• 対照的学習を施した PGRGrN（PGRGrN ptr,ctr）は、すべてのテストシナリオで最小の RMSE を達成し、データのスパarsity および季節的シフトに対しても高い耐性を示した。
• 未観測の河川セグメントや異なる流出量レンジへの一般化性能が向上しており、従来の RNN や ANN よりも優れた転送性を示した。
• 感度分析により、ハイパーパrameter の変動に対してもモデルが頑健であることが確認され、λ と γ を中程度にチューニングした際の性能が最良であった。
• 最大 5 日の時間遅れを伴う上流からの影響を組み込むことで、予測精度が向上し、水文的ダイナミクスにおける時間的ラグの重要性が裏付けられた。