[論文レビュー] Non-linear Independent Dual System (NIDS) for Discretization-independent Surrogate Modeling over Complex Geometries.

James Duvall, Karthik Duraisamy+1 more|arXiv (Cornell University)|Sep 14, 2021

Model Reduction and Neural Networks参考文献 28被引用数 5

ひとこと要約

本稿では、部分微分方程式（PDE）の解を、損失を伴うピクセル化なしに、複雑で変動する幾何形状上で、離散化に依存しない深層学習代理モデルである非線形独立デュアルシステム（NIDS）を提案する。非線形的で独立したデュアル出力層と最小距離関数の符号化を組み合わせることで、NIDSは非構造的メッシュ上での高速かつ高精度なPDE解の予測を可能にし、フルオーダーモデルと比較して多数のオーダーの速度向上を達成する。

ABSTRACT

Numerical solutions of partial differential equations (PDEs) require expensive simulations, limiting their application in design optimization routines, model-based control, or solution of large-scale inverse problems. Existing Convolutional Neural Network-based frameworks for surrogate modeling require lossy pixelization and data-preprocessing, which is not suitable for realistic engineering applications. Therefore, we propose non-linear independent dual system (NIDS), which is a deep learning surrogate model for discretization-independent, continuous representation of PDE solutions, and can be used for prediction over domains with complex, variable geometries and mesh topologies. NIDS leverages implicit neural representations to develop a non-linear mapping between problem parameters and spatial coordinates to state predictions by combining evaluations of a case-wise parameter network and a point-wise spatial network in a linear output layer. The input features of the spatial network include physical coordinates augmented by a minimum distance function evaluation to implicitly encode the problem geometry. The form of the overall output layer induces a dual system, where each term in the map is non-linear and independent. Further, we propose a minimum distance function-driven weighted sum of NIDS models using a shared parameter network to enforce boundary conditions by construction under certain restrictions. The framework is applied to predict solutions around complex, parametrically-defined geometries on non-parametrically-defined meshes with solutions obtained many orders of magnitude faster than the full order models. Test cases include a vehicle aerodynamics problem with complex geometry and data scarcity, enabled by a training method in which more cases are gradually added as training progresses.

研究の動機と目的

• 既存のCNNベースの代理モデルが損失を伴うピクセル化と事前処理に依存するという限界を克服し、実世界の工学的応用を妨げる要因を解消すること。
• メッシュ離散化に依存せず、変動するメッシュトポロジを有する複雑なパラメトリック定義された幾何形状を扱える代理モデルフレームワークを開発すること。
• 境界条件を構築的に満たすことで、非パラメトリックな非構造的メッシュ上でのPDE解の正確な予測を可能にすること。
• 設計最適化、制御、逆問題における計算コストを削減し、高価なフルオーダーモデルPDEソルバの代わりに高速で汎用性のある深層学習代理モデルを導入すること。

提案手法

• NIDSはデュアルネットワークアーキテクチャを採用：ケースごとのパラメータネットワークとポイントごとの空間ネットワークを有し、その出力を非線形的で独立したマッピングにより線形出力層で統合する。
• 空間ネットワークは物理的座標と最小距離関数を入力とし、明示的なメッシュ表現なしに複雑な幾何形状を暗黙的に符号化可能である。
• デュアルシステム構造により、出力マップの各成分が非線形的かつ独立的であることが保証され、表現能力と一般化性能が向上する。
• 境界条件は、最小距離関数を駆動とする重み付き和を用いた共有パラメータネットワークを介して、構築的に強制される。
• データ不足の状況でも、訓練中に徐々に新しいケースを追加することで、低データ環境下での一般化性能を向上させる。
• モデルは非構造的メッシュ上でエンドツーエンドに訓練され、異なるメッシュトポロジ間での離散化に依存しない推論が可能となる。

実験結果

リサーチクエスチョン

• RQ1 損失を伴うメッシュやピクセル化の制約なしに、複雑で変動する幾何形状上でのPDE解を、深層学習代理モデルが正確に予測できるか。
• RQ2 後処理や損失ペナルティに依存せずに、ニューラルネットワークベースのPDE代理モデルで境界条件を構築的に強制する方法は何か。
• RQ3 異なるメッシュトポロジや離散化において、どの程度の一般化性能を示せるか。
• RQ4 データが限られる状況でも、フルオーダーモデルPDEソルバーより顕著な高速化を達成できるか。
• RQ5 最小距離関数の使用が、PDEの暗黙的ニューラル表現における幾何一般化をどのように向上させるか。

主な発見

• NIDSは、フルオーダーモデルPDEソルバーよりも多数のオーダーの速度で解の予測を実現し、リアルタイムまたはニアリアルタイムの応用を可能にする。
• 限られた訓練データでも、車両の空力的特性を含む複雑でパラメトリックに定義された幾何形状上でのPDE解の予測が高精度で達成される。
• 境界条件は重み付き和メカニズムにより構築的に強制され、追加の損失項なしに誤差が低減され、安定性が向上する。
• 最小距離関数の使用により、再訓練なしに異なるメッシュトポロジ間での暗黙的幾何符号化が可能となり、一般化性能が向上する。
• 訓練中に段階的にケースを追加することで、データが限られる環境下でのモデル一般化性能が向上し、未観測の幾何形状に対しても性能が向上する。
• 非線形独立性を有する出力成分を備えたデュアルシステムアーキテクチャは、標準的な順方向ネットワークと比較して表現能力と予測精度が向上する。