[论文解读] IDRLnet: A Physics-Informed Neural Network Library

Wei Peng, Jun Zhang+4 more|arXiv (Cornell University)|Jul 9, 2021

Model Reduction and Neural Networks参考文献 24被引用 15

一句话总结

IDRLnet 是一个基于 PyTorch 的开源 Python 库，用于使用物理信息神经网络（PINNs）求解由偏微分方程（PDEs）控制的正问题和逆问题。它提供了一个模块化、结构化的框架，用于集成神经网络、PDE、数据源、损失函数和优化器，支持自适应采样和可定制的回调函数，能够稳健求解 PDE、逆问题、变分最小化问题以及积分微分方程。

ABSTRACT

Physics Informed Neural Network (PINN) is a scientific computing framework used to solve both forward and inverse problems modeled by Partial Differential Equations (PDEs). This paper introduces IDRLnet, a Python toolbox for modeling and solving problems through PINN systematically. IDRLnet constructs the framework for a wide range of PINN algorithms and applications. It provides a structured way to incorporate geometric objects, data sources, artificial neural networks, loss metrics, and optimizers within Python. Furthermore, it provides functionality to solve noisy inverse problems, variational minimization, and integral differential equations. New PINN variants can be integrated into the framework easily. Source code, tutorials, and documentation are available at \url{https://github.com/idrl-lab/idrlnet}.

研究动机与目标

• 为使用物理信息神经网络（PINNs）建模和求解基于 PDE 的科学计算问题提供系统化、模块化的框架。
• 使研究人员能够轻松将新的 PINN 变体、损失函数和优化策略集成到统一的计算流程中。
• 在单一、可扩展的软件环境中支持复杂任务，如噪声逆问题、变分最小化和积分微分方程求解。
• 通过可定制组件（如自适应采样和用户定义的回调函数）提升收敛性和准确性。

提出的方法

• IDRLnet 使用计算节点结构化 PDE 问题，包括神经网络、PDE 算子和数据源，每个节点均定义了输入、导数和输出。
• 通过节点的拓扑排序构建计算图，自动从定义的组件生成训练流程。
• 框架支持通过计算图进行自动微分和反向传播，以最小化包含 PDE 残差、边界条件、初始条件和数据保真度项的复合损失函数。
• 可集成用户定义的损失函数（例如 L1、L2）和正则化方法，以提升对异常值和噪声的鲁棒性。
• 通过回调函数实现自适应采样，动态检测高误差区域并重新采样。
• 支持蒙特卡洛积分和高斯-勒让德求积法，用于求解变分问题和积分微分方程。

实验结果

研究问题

• RQ1 如何设计一个模块化、可扩展的框架，以统一实现多种基于 PINN 的 PDE 求解器和逆问题？
• RQ2 自适应采样策略是否能显著提升 PINN 在高误差区域的求解精度？
• RQ3 IDRLnet 在求解变分最小化问题（如旋转曲面的最小面积）方面效果如何？
• RQ4 IDRLnet 在用户自定义损失函数下，对复杂 PDE（包括积分微分方程和噪声逆问题）的处理能力如何？
• RQ5 预训练模型的集成是否能加速基于 PINN 的优化任务的收敛？

主要发现

• IDRLnet 使用 L2 和 L1 损失函数成功恢复了 Allen-Cahn 方程的解，其中 L1 损失对异常值表现出鲁棒性，并在参数估计中实现了 ∆c = 0.0155 的绝对误差。
• 通过回调函数实现的自适应采样显著提升了求解精度，动态重新采样高误差区域，如在第 20,000、30,000 和 50,000 次迭代中可视化所示，蓝色重新采样点的密度逐渐增加。
• Volterra 积分微分方程的解与精确解 u = exp(−x) cosh(x) 完全匹配，预测结果与解析曲线高度一致，如图 8 所示。
• 对于旋转曲面最小面积问题，求解器在 800 次迭代后收敛至双曲面（catenoid）形状，初始猜测为截断圆锥的预训练模型。
• 该框架成功求解了包括正问题和逆问题 PDE、变分最小化以及积分微分方程在内的多种问题，展现出广泛的适用性。