[论文解读] Conductivity Imaging from Internal Measurements with Mixed Least-Squares Deep Neural Networks

Bangti Jin, Xi‐Yao Li+2 more|arXiv (Cornell University)|Mar 29, 2023

Groundwater flow and contamination studiesEnvironmental Science被引用 3

一句话总结

本文提出了一种混合最小二乘深度神经网络（DNN）框架，用于从全域内部测量重建椭圆PDE中的电导率分布。通过使用带有H¹正则化的最小二乘损失，联合逼近电导率和通量，该方法实现了稳定且对噪声鲁棒的重建，并具有明确依赖于数据噪声、网络深度、宽度和采样分辨率的严格误差界。

ABSTRACT

In this work we develop a novel approach using deep neural networks to reconstruct the conductivity distribution in elliptic problems from one measurement of the solution over the whole domain. The approach is based on a mixed reformulation of the governing equation and utilizes the standard least-squares objective, with deep neural networks as ansatz functions to approximate the conductivity and flux simultaneously. We provide a thorough analysis of the deep neural network approximations of the conductivity for both continuous and empirical losses, including rigorous error estimates that are explicit in terms of the noise level, various penalty parameters and neural network architectural parameters (depth, width and parameter bound). We also provide multiple numerical experiments in two- and multi-dimensions to illustrate distinct features of the approach, e.g., excellent stability with respect to data noise and capability of solving high-dimensional problems.

研究动机与目标

• 开发一种稳定的数据驱动方法，用于从椭圆PDE中解的单个全域内部测量重建电导率分布。
• 通过利用深度神经网络的表达能力，克服经典数值方法在高维或噪声环境下的局限性。
• 为电导率重建建立严格的泛化误差界，其显式依赖于噪声水平、网络结构（深度、宽度、参数界）和采样密度。
• 通过结合混合最小二乘公式、逼近理论与统计学习理论，为基于DNN的反问题提供理论基础。

提出的方法

• 将电导率成像问题表述为涉及电导率 $ q $ 和通量 $ \boldsymbol{\rho} = q\nabla u $ 的混合最小二乘优化问题，采用PDE的变分形式。
• 使用深度神经网络作为试探函数来逼近 $ q $ 和 $ \boldsymbol{\rho} $，从而实现对解流形的高维和非线性表示。
• 定义一个最小二乘损失泛函，惩罚PDE和边界条件的违反，并在 $ q $ 上施加 $ H^1(\Omega) $ 类型的正则化以确保光滑性。
• 通过蒙特卡洛求积法近似域 $ \Omega $ 和边界 $ \partial\Omega $ 上采样点的积分，最小化经验损失。
• 利用Rademacher复杂度和覆盖数论证，推导出 $ q $、$ \boldsymbol{\rho} $ 及相关量的DNN逼近的泛化误差界。
• 建立显式依赖于数据噪声 $ \delta $、网络深度 $ L $、宽度 $ W $、参数界 $ R $ 和采样数 $ n $ 的理论误差估计。

实验结果

研究问题

• RQ1 深度神经网络能否有效从椭圆PDE中解的单个全域内部测量重建电导率分布？
• RQ2 基于DNN的重建泛化误差如何随数据噪声、网络结构（深度、宽度、参数界）和采样分辨率变化？
• RQ3 在存在噪声数据和有限采样条件下，所提出的混合最小二乘DNN框架的理论稳定性和收敛行为如何？
• RQ4 通过统计学习与逼近理论推导出的理论误差界与数值实验中的实际性能相比如何？

主要发现

• 所提方法即使在显著数据噪声下也能实现稳定的电导率重建，在二维及多维问题的数值实验中表现出强鲁棒性。
• 电导率逼近的理论误差界已被显式推导，其依赖于噪声水平 $ \delta $、网络深度 $ L $、宽度 $ W $、参数界 $ R $ 和采样数 $ n $，且对网络规模呈对数依赖。
• DNN函数类的Rademacher复杂度被界定为 $ \mathcal{O}(n^{-1/2} R_{\sigma}^2 N_{\kappa}^2 (N_{\kappa} + N_{\theta})^{1/2} (\log R_{\sigma} + \log N_{\kappa} + \log n)^{1/2}) $，其中 $ N_{\kappa} $ 和 $ N_{\theta} $ 分别表示通量网络和电导率网络中的参数数量。
• 通量和电导率逼近的误差界随 $ n^{-1/2} $ 变化，表明随着采样增加而收敛，且受网络深度和宽度通过对数和多项式项的影响。
• 由于DNN的表达能力以及混合最小二乘法与 $ H^1 $ 正则化结合带来的稳定性，该方法在高维问题中实现了高精度。
• 实验结果证实，该方法在噪声鲁棒性和向更高维度扩展方面优于标准方法，且随着采样密度增加，误差持续降低。