[論文レビュー] A Mesh-free Method Using Piecewise Deep Neural Network for Elliptic Interface Problems

Cuiyu He, Xiaozhe Hu+1 more|arXiv (Cornell University)|May 11, 2020

Advanced Numerical Methods in Computational Mathematics被引用数 5

ひとこと要約

本稿では、複雑な幾何構造と不連続解を有する楕円型界面問題を解くために、分(piecewise)深層ニューラルネットワーク(DNN)を用いたメッシュフリーな深層最小二乗法を提案する。界面で分離された部分領域ごとに別個のDNNを採用し、サンプリング点上で確率的勾配降下法を用いて最小二乗損失を最小化することで、メッシュ生成や数値積分を回避し、界面付近の特異性を捉えながら、最大70%の計算コスト削減を実現する高精度な方法を達成する。

ABSTRACT

In this paper, we propose a novel mesh-free numerical method for solving the elliptic interface problems based on deep learning. We approximate the solution by the neural networks and, since the solution may change dramatically across the interface, we employ different neural networks in different sub-domains. By reformulating the interface problem as a least-squares problem, we discretize the objective function using mean squared error via sampling and solve the proposed deep least-squares method by standard training algorithms such as stochastic gradient descent. The discretized objective function utilizes only the point-wise information on the sampling points and thus no underlying mesh is required. Doing this circumvents the challenging meshing procedure as well as the numerical integration on the complex interface. To improve the computational efficiency for more challenging problems, we further design an adaptive sampling strategy based on the residual of the least-squares function and propose an adaptive algorithm. Finally, we present several numerical experiments in both 2D and 3D to show the flexibility, effectiveness, and accuracy of the proposed deep least-square method for solving interface problems.

研究の動機と目的

• 不規則な界面における複雑なメッシュ生成や積分を回避するメッシュフリーな数値解法の開発を目的とする。
• 界面をはさんで微分係数のジャンプが大きい問題に対処するため、界面で分離された各部分領域に別個のDNNを用いることによる挑戦への対応を目的とする。
• 残差誤差に基づく適応的サンプリングを用いることで、高対比および特異的界面問題における計算効率の向上を目的とする。
• 2次元および3次元の複雑な幾何構造を有する問題において、DNNを用いた深層最小二乗法の有効性と精度を実証することを目的とする。

提案手法

• 深層学習による学習を可能とするために、楕円型界面問題を最小二乗最小化問題に再定式化する。
• 界面で分離された2つの部分領域における解をそれぞれ別個のDNNで近似することで、微分係数の不連続性をよりよく捉える。
• メッシュに基づく積分を回避するため、サンプリング点における平均二乗誤差を用いて最小二乗汎関数を離散化する。
• サンプリング点の位置情報のみを用いて、確率的勾配降下法(SGD)を用いてDNNを学習する。
• 残差誤差が大きい領域、特に界面付近に多くの点を追加する適応的サンプリング戦略を設計する。
• 複雑な界面に対応するため、各部分領域に分(piecewise)DNN構造を用いて複数の部分領域に拡張する。

実験結果

リサーチクエスチョン

• RQ1 分(piecewise)DNNを用いたメッシュフリーな深層学習手法は、複雑または時間依存の界面を有する楕円型界面問題を効果的に解けるか？
• RQ2 界面をはさんで微分係数のジャンプが大きい問題において、各部分領域に別個のDNNを用いることで、単一のグローバルDNNに比べて精度が向上するか？
• RQ3 残差誤差に基づく適応的サンプリングは、計算コストを削減しながらも、解の精度を維持または向上させることができるか？
• RQ4 本手法は、2次元および3次元の高対比および特異的界面問題において、どのように性能を発揮するか？

主な発見

• β1=1およびβ2=1000の3次元問題において、部分領域に361点と449点を用いて相対誤差1.6241e-03を達成し、均一なサンプリングを上回る性能を示した。
• やや対比が小さい花型界面に対しては、適応的サンプリングによりサンプリング点数を約70%削減しながら、均一サンプリングと同等の精度を達成した。
• 適応的サンプリング戦略は、誤差プロットおよび点配置の可視化から、界面付近、特に特異性を有する領域に点を集中させることに成功した。
• β2=1000の3次元問題においても、高対比に対しても低誤差（1.6241e-03）を維持し、係数のジャンプに対してもロバストであることを示した。
• 花型界面において、部分領域に249点と358点を用いて相対誤差3.7275e-04を達成し、50×50グリッドの均一サンプリングと同等の性能を、はるかに少ない点数で達成した。
• 数値実験により、微分係数の不連続性を有する解に対して、分(piecewise)DNNアプローチが近似品質を顕著に向上させることを確認した。