[論文レビュー] Solving PDEs with Unmeasurable Source Terms Using Coupled Physics-Informed Neural Network with Recurrent Prediction for Soft Sensors

Aina Wang, Pan Qin+1 more|arXiv (Cornell University)|Jan 20, 2023

Model Reduction and Neural Networks被引用数 4

ひとこと要約

本稿では、測定不能な源項を伴う非同次PDEを解くために、連携型物理学情報付きニューラルネットワーク（CPINN）と逐次予測を組み合わせたCPINN-RPを提案する。NetU（解の近似）とNetG（学習正則化）をデータ・物理学ハイブリッド損失関数で統合し、階層的学習戦略を採用することで、CPINN-RPは正確な時空間予測を達成した。合成データでは98.8%のCCと6.8%未満のRMSEを達成し、実際の振動データでは97.1%のCCと8.22のRMSEを示した。測定不能なセンサ出力の予測に成功した。

ABSTRACT

Partial differential equations (PDEs) are a model candidate for soft sensors in industrial processes with spatiotemporal dependence. Although physics-informed neural networks (PINNs) are a promising machine learning method for solving PDEs, they are infeasible for the nonhomogeneous PDEs with unmeasurable source terms. To this end, a coupled PINN (CPINN) with a recurrent prediction (RP) learning strategy (CPINN- RP) is proposed. First, CPINN composed of NetU and NetG is proposed. NetU is for approximating PDEs solutions and NetG is for regularizing the training of NetU. The two networks are integrated into a data-physics-hybrid loss function. Then, we theoretically prove that the proposed CPINN has a satisfying approximation capability for solutions to nonhomogeneous PDEs with unmeasurable source terms. Besides the theoretical aspects, we propose a hierarchical training strategy to optimize and couple NetU and NetG. Secondly, NetU-RP is proposed for compensating information loss in data sampling to improve the prediction performance, in which RP is the recurrently delayed outputs of well-trained CPINN and hard sensors. Finally, the artificial and practical datasets are used to verify the feasibility and effectiveness of CPINN-RP for soft sensors.

研究の動機と目的

• 産業的ソフトセンサにおいて、測定不能な源項を伴う非同次PDEを解く課題に対処すること。
• 源項の直接測定が不可能な状況下でも、精度を維持する物理学情報付きニューラルネットワークフレームワークを構築すること。
• 逐次予測によるデータサンプリング損失の補償を通じて、予測性能を向上させること。
• 合成データおよび実世界の産業的振動データの両方で、手法を検証すること。
• 時空間ダイナミクスを示す複雑なシステムにおける測定不能な源項を伴う、重要な変数のロバストなソフトセンシングを可能にすること。

提案手法

• PDE解の近似を目的とするNetUと、NetUの学習を正則化するNetGを備えた2つのネットワークを有する、連携型PINN（CPINN）フレームワークを提案する。
• NetUとNetGをデータ・物理学ハイブリッド損失関数に統合し、PDE制約および境界・初期条件を強制する。
• NetUとNetGの最適化と結合を促進するための階層的学習戦略を導入し、収束性と安定性を向上させる。
• 訓練済みCPINNの遅延出力とハードセンサ出力を用いた逐次予測モジュールNetU-RPを構築し、疎なサンプリングに起因する情報損失を軽減する。
• 理論的分析により、L²ノルム収束を用いて、測定不能な源項下でもCPINNの近似能力を証明した。
• 物理法則とニューラルネットワーク学習を組み合わせたメッシュフリーでデータ駆動型のアプローチにより、PDEの解を求める。

実験結果

リサーチクエスチョン

• RQ1 測定不能な源項を伴う非同次PDEを解く際、物理学情報付きニューラルネットワークフレームワークが有効に機能するか？
• RQ2 直接的な源項測定が得られない状況下で、PDEを解くニューラルネットワークの学習をどのように安定化・改善できるか？
• RQ3 ハードセンサデータと過去のCPINN出力からの逐次予測により、データが疎な領域における予測精度を向上させられるか？
• RQ4 提案されたCPINN-RPフレームワークは、測定不能な源項を伴う合成および実産業PDE問題において、どのような性能を示すか？
• RQ5 階層的学習戦略は、CPINNモデルの一般化能力とロバスト性をどの程度向上させるか？

主な発見

• 1次元波動方程式の合成データでは、CPINN-RPは領域[0,π]×[0,6]において相関係数（CC）98.77%、RMSE 6.75%を達成した。
• 1次元波動方程式において、固定時刻t=2およびt=4では、RMSEがそれぞれ4.84×10⁻²および5.28×10⁻²であり、CC値は98.98%および98.20%であった。
• 実際の航空エンジンスプラインカップリング実験では、CPINN-RPは測定不能なセンサ4の出力を97.14%のCCと8.22のRMSEで予測し、ベースラインを上回った。
• この手法は優れた一般化能力を示し、センサ1～3の学習データでは99.9%のCCを達成した。これは、背後にあるダイナミクスの有効な学習を示している。
• 階層的学習戦略により収束性と安定性が顕著に向上し、測定不能な源項が存在する状況下でも信頼性のある解の近似が可能になった。
• 逐次予測部は、データのサンプリング損失を効果的に補償し、測定が疎な状況でも予測の忠実性を向上させた。