[論文レビュー] Data-driven discretization: machine learning for coarse graining of partial differential equations

Yohai Bar‐Sinai, Stephan Hoyer+2 more|arXiv (Cornell University)|Aug 15, 2018

Model Reduction and Neural Networks被引用数 3

ひとこと要約

本論文は、偏微分方程式（PDE）の粗粒度数値解法における空間微分を学習するためのデータ駆動型離散化を提案する。この手法は、既知のPDEの解を用いてニューラルネットワークをエンド・ツー・エンドに訓練することで、従来の有限差分法に比べ4–8倍粗い解像度でも高い精度を達成する。これにより、非線形PDEの長時間にわたる安定かつ正確な積分が可能になる。

ABSTRACT

The numerical solution of partial differential equations (PDEs) is challenging because of the need to resolve spatiotemporal features over wide length and timescales. Often, it is computationally intractable to resolve the finest features in the solution. The only recourse is to use approximate coarse-grained representations, which aim to accurately represent long-wavelength dynamics while properly accounting for unresolved small scale physics. Deriving such coarse grained equations is notoriously difficult, and often \emph{ad hoc}. Here we introduce \emph{data driven discretization}, a method for learning optimized approximations to PDEs based on actual solutions to the known underlying equations. Our approach uses neural networks to estimate spatial derivatives, which are optimized end-to-end to best satisfy the equations on a low resolution grid. The resulting numerical methods are remarkably accurate, allowing us to integrate in time a collection of nonlinear equations in one spatial dimension at resolutions 4-8x coarser than is possible with standard finite difference methods.

研究の動機と目的

• 広い空間時間スケールにわたり細粒度の特徴を解像する必要がある偏微分方程式（PDE）の計算的非実行可能性に対処すること。
• 体系的な導出が欠如している手動で設計された粗粒度モデル手法の限界を克服すること。
• 既知のPDEの解から直接的に最適化された数値離散化を学習するデータ駆動型手法を開発すること。
• 学習された微分近似を用いて、低解像度グリッド上でも非線形PDEの安定的かつ正確な時間積分を可能にすること。
• 学習された離散化が、標準的な有限差分法に比べて精度と解像度効率の面で優れていることを示すこと。

提案手法

• この手法は、粗いグリッド上で空間微分を推定するためのニューラルネットワークを用い、従来の有限差分ステンシルに置き換える。
• ネットワークのパラメータは、複数の解スナップショットにおける支配的PDEの残差誤差を最小化するようにエンド・ツー・エンドに訓練される。
• 学習データは、高解像度のPDEの解から構成され、教師としての正確な微分情報が提供される。
• 損失関数は、予測された微分が粗いグリッド上でPDEを可能な限り正確に満たすように制約を課す。
• 得られた数値スキームは時間積分に適用され、学習された微分を用いて解を時間的に前方に進める。
• このアプローチは一般性を持ち、1次元のさまざまな非線形PDEに適用可能である。

実験結果

リサーチクエスチョン

• RQ1 ニューラルネットワークは、粗いグリッド上で安定的かつ正確なPDE数値解を得るための空間微分近似を学習できるか？
• RQ2 同等の解像度において、データ駆動型離散化の精度は標準的な有限差分法に比べてどの程度優れているか？
• RQ3 学習された離散化は、解像されない小スケール物理を考慮しつつ、長波長ダイナミクスをどの程度正確に捉えることができるか？
• RQ4 この手法は、PDEの解析的構造を事前に知らずとも、非線形PDEに効果的に適用できるか？
• RQ5 このデータ駆動型アプローチを用いて、許容可能な精度を維持しつつ、最大でどの程度の解像度の粗さが達成できるか？

主な発見

• データ駆動型離散化手法は、標準的な有限差分法が可能な解像度よりも4–8倍粗い解像度でも、非線形PDEの正確な時間積分を達成する。
• 学習された数値スキームは、複雑な非線形系ですら、長時間積分においても安定性と精度を維持する。
• この手法は、粗いグリッド上での解像度効率と解の忠実度の面で、従来の有限差分法を顕著に上回る。
• PDEの解にわたるニューラルネットワークのエンド・ツー・エンド訓練により、物理的整合性を保った最適化された微分近似が発見できる。
• このアプローチは、さまざまな種類のPDEに一般化可能であり、多様な非線形性やダイナミクスに対しても頑健であることが示された。
• 得られた粗粒度ソルバーは、細粒度の特徴が解像されていなくても、長波長ダイナミクスを高精度で捉えることができる。