[論文レビュー] Physics-constrained deep learning postprocessing of temperature and humidity

Francesco Zanetta, Daniele Nerini+2 more|arXiv (Cornell University)|Dec 7, 2022

Model Reduction and Neural Networks被引用数 4

ひとこと要約

本稿では、スイスにおける表面温度および湿度予測の後処理のための物理的制約付きディープラーニングフレームワークを提案する。この手法は、ニューラルネットワークのアーキテクチャに直接的に熱力学的法則を組み込むことで、エネルギー保存則や状態方程式を厳密に満たす。このアプローチにより、性能を損なわずに物理的に整合性のある予測が得られ、特にデータが限られる状況でも信頼性が向上する。また、微分可能な解析的制約を用いることで、構造的に物理的整合性が保証される。

ABSTRACT

Weather forecasting centers currently rely on statistical postprocessing methods to minimize forecast error. This improves skill but can lead to predictions that violate physical principles or disregard dependencies between variables, which can be problematic for downstream applications and for the trustworthiness of postprocessing models, especially when they are based on new machine learning approaches. Building on recent advances in physics-informed machine learning, we propose to achieve physical consistency in deep learning-based postprocessing models by integrating meteorological expertise in the form of analytic equations. Applied to the post-processing of surface weather in Switzerland, we find that constraining a neural network to enforce thermodynamic state equations yields physically-consistent predictions of temperature and humidity without compromising performance. Our approach is especially advantageous when data is scarce, and our findings suggest that incorporating domain expertise into postprocessing models allows to optimize weather forecast information while satisfying application-specific requirements.

研究の動機と目的

• 機械学習ベースの気象後処理における物理的整合性の欠如、特に温度と湿度の間の熱力学的関係の違反を是正すること。
• データ駆動型モデルに物理法則を組み込むことで、水文や再生可能エネルギーなどの下流応用分野における予測の信頼性と信頼性を向上させること。
• ドメイン固有の解析的方程式をディープラーニングに統合することで、性能と耐障害性が向上するかどうかを評価すること、特に学習データが限られる状況での有効性を検証すること。
• 極端な気象現象（例：夏の猛暑）のような分布外の状況への一般化性能が、物理的制約によって向上するかどうかを検討すること。
• 微分可能な方程式を用いたシンプルで拡張可能なフレームワークを提示し、科学的知見を後処理モデルにモジュール化・原理的かつ容易に統合できるようにすること。

提案手法

• 最終層が理想気体の法則およびクラウジウス＝クラペイロンの関係を満たすように制約された全結合ニューラルネットワークを採用する。
• 物理的整合性は、損失正則化ではなく、設計段階で出力が熱力学的状態方程式 T = f(q, p) を満たすように、独自のネットワークリンで実現する。
• 観測された温度および比湿に対する標準的な平均絶対誤差（MAE）損失を用いて学習を行うが、追加の物理的損失項は使用しない。
• 同じ学習・評価プロトコルを用いて、制約なしおよび損失制約付きのディープラーニングベースラインと比較する。
• 学習データを1ステーションあたり1%に制限することでデータ不足下での評価を実施し、非夏季のデータで学習し夏季のデータでテストすることで分布外一般化性能を評価する。
• 微分可能な演算を用いて実装されており、エンドツーエンドの学習を維持しながらも、物理的整合性を厳密に保証できる。

実験結果

リサーチクエスチョン

• RQ1 解析的熱力学的方程式をネットワークアーキテクチャに直接埋め込むことで、ディープラーニングの後処理モデルにおける物理的整合性を実現できるか？
• RQ2 特に学習サンプルが限られる状況下で、物理的制約がモデルの性能に与える影響は何か？
• RQ3 訓練時に観測されていない極端な気象条件（例：夏季の猛暑）への一般化性能が、物理的整合性の強制によって向上するか？
• RQ4 アーキテクチャ制約付きアプローチは、制約なしおよび損失制約付きモデルと比較して、物理的整合性および予測精度の両面で優れているか？
• RQ5 今後、このフレームワークを確率的予測やグローバル規模の後処理に拡張可能か？

主な発見

• アーキテクチャ制約付きモデルは、すべてのテストケースで機械精度の範囲内で物理的整合性を保証し、物理的整合性の欠如が完全にゼロとなる。
• データが限られる状況（学習サンプルを1%に制限）において、アーキテクチャ制約付きモデルは物理的整合性を維持している一方、制約なしモデルは物理的整合性の欠如が著しく増加する。
• 学習データが減少するに従い、制約なしモデルでは物理的整合性の欠如が顕著に増加するが、これは低データ環境下における物理的制約の価値を示している。
• NMAEで測定した予測性能は、制約なしおよび損失制約付きモデルと同等であり、追加の物理的制約があるにもかかわらず、精度の低下は見られない。
• 分布外の夏季の極端な高温現象への一般化性能は、物理的制約によって顕著に向上しなかった。これは、物理的制約が補間には有効だが、分布外の外挿には有効でない可能性を示唆している。
• 本手法は拡張可能であり、任意の微分可能な物理的方程式に適用可能である。これにより、ドメインの専門知識をモジュール的かつ原理的かつ容易に後処理モデルに統合できる。