[論文レビュー] Soft Partition-based KAPI-ELM for Multi-Scale PDEs

Vikas Dwivedi, Monica Sigovan+1 more|arXiv (Cornell University)|Jan 13, 2026

Model Reduction and Neural Networks被引用数 0

ひとこと要約

この論文は、フーリエ特徴やバックプロパゲーションを用いず、単一の線形最小二乗解を用いて多スケール・振動・特異摂動付き偏微分方程式を自動的に解決するソフト分割ベースの Kernel-Adaptive PI–ELM (KAPI–ELM) を導入する。

ABSTRACT

Physics-informed machine learning holds great promise for solving differential equations, yet existing methods struggle with highly oscillatory, multiscale, or singularly perturbed PDEs due to spectral bias, costly backpropagation, and manually tuned kernel or Fourier frequencies. This work introduces a soft partition--based Kernel-Adaptive Physics-Informed Extreme Learning Machine (KAPI-ELM), a deterministic low-dimensional parameterization in which smooth partition lengths jointly control collocation centers and Gaussian kernel widths, enabling continuous coarse-to-fine resolution without Fourier features, random sampling, or hard domain interfaces. A signed-distance-based weighting further stabilizes least-squares learning on irregular geometries. Across eight benchmarks--including oscillatory ODEs, high-frequency Poisson equations, irregular-shaped domains, and stiff singularly perturbed convection-diffusion problems-the proposed method matches or exceeds the accuracy of state-of-the-art Physics-Informed Neural Network (PINN) and Theory of Functional Connections (TFC) variants while using only a single linear solve. Although demonstrated on steady linear PDEs, the results show that soft-partition kernel adaptation provides a fast, architecture-free approach for multiscale PDEs with broad potential for future physics-informed modeling. For reproducibility, the reference codes are available at https://github.com/vikas-dwivedi-2022/soft_kapi

研究の動機と目的

• 既存の物理情報学習法（PINN、フーリエベース PINN、ドメイン分解法）が多スケール・振動性 PDE に対して持つ制限を動機づけ、対処する。
• コロケーション中心とガウシアン幅を同時に支配する決定論的で低次元のソフト分割フレームワークを提案し、粗い解像度から細かな解像度への適応的分解を可能にする。
• 不規則な領域での学習を安定化させる幾何学認識的な符号距離（signed-distance）ベースの残差加重を導入する。
• 単一の線形解法により、振動性・高周波・不規則領域・特異摂動問題に対して高精度を達成できることを示す。

提案手法

• 分割長さがコロケーション中心とガウシアンカーネル幅の両方を決定するソフト分割ベースのサンプリング戦略を導入する。
• 分割長ベクトルによる1Dおよび2Dのサンプリング方式を定義し、中心配置とカーネルスケールを決定的に設定する。
• partition parameters に対して PI–ELM 線形系を閉形式で解き、検証目的でベイズ最適化により分割を最適化する。
• PDE 残差に符号距離ベースの加重を適用して、不規則境界付近の学習を安定化する。
• 小さな分割長を用いてカーネルを狭くすることで、フーリエ特徴なしに高周波表現力を高める方法を説明する。
• バックプロパゲーションやニューラルアーキテクチャを回避し、単一の線形最小二乗解を用いる。

Figure 1: RBF spectral bandwidth induced by partition–adaptive sampling. Left: the proposed sampler generates a multimodal distribution of Gaussian widths $\sigma$ , including extremely small kernels. Right: corresponding Fourier magnitudes $\lvert\widehat{\phi}_{\sigma}(\omega)\rvert=\exp(-(\sigma\

実験結果

リサーチクエスチョン

• RQ1 決定論的なソフト分割スキームは、フーリエ特徴マッピングやドメイン界面ペナルティなしに適応的・多スケール解像を提供できるか。
• RQ2 分割長は中心密度とカーネル幅にどのように影響し、高周波および境界層構造を捉えるのか。
• RQ3 SDF ベースの残差加重は不規則な幾何学や高階 PDE に対して安定性と精度を改善するのか。
• RQ4 多スケール PDE に対する Soft Partition–based KAPI–ELM の PINN および FBPINN ベースラインと比較した性能と速度はどうか。

主な発見

Method	Training cost	Architectural complexity	Accuracy on high-frequency and multiscale tests
PINN	50,000 – 100,000 gradient steps; slow and unstable convergence	Single network; sensitive to depth, width, activations; often requires Fourier features	Fails for ω=15 ; large errors (10^{-2} – 10^{-3}); unstable on second-order ODEs
FBPINN	50,000 – 500,000 gradient steps depending on problem	20–30 subdomains; overlapping windows; multiple small networks per subdomain; handcrafted training schedules	Accurate but extremely expensive; sensitive to subdomain layout; best-case errors ~ 10^{-4}
Soft Partition KAPI–ELM	No backpropagation ; single least-squares solve ( ~ 0.1 s)	No neural architecture; few partition parameters; deterministic center and width placement	Near machine-precision accuracy (10^{-6} – 10^{-12}) on all tests; robust for oscillatory and stiff problems

• 最先端の PINN および TFC バリアントと同等またはそれ以上の精度を、8つのベンチマークで達成。
• 1D の振動性・多スケールテストで機械精度近似（10^{-6} 〜 10^{-12}）を達成。
• 全テスト問題を単一の線形最小二乗解で解き、勾配法ベース手法より大幅に速く（報告ケースで約0.1 s）。
• 分割ベースサンプリングにより誘発される多峰性分布のガウシアン幅を利用して、フーリエなしの高周波精度を提供。
• SDF 加重残差は不規則な幾何学と高階作用素での安定性を改善し、境界漏れを減らす。
• 不規則領域のポアソン方程式やビハモル方程式に対して、追加計算コストを抑えつつ高い性能を示す。

Figure 2: KAPI–ELM approximation and exact solution for $u^{\prime}(x)=\cos(15x)$ on $[-2\pi,2\pi]$ .