[论文解读] Multifidelity Deep Operator Networks For Data-Driven and Physics-Informed Problems

Amanda A. Howard, Mauro Perego+2 more|arXiv (Cornell University)|Apr 19, 2022

Model Reduction and Neural Networks参考文献 55被引用 9

一句话总结

本文提出了一种多保真度深度算子网络（DeepONet），通过结合低保真度和高保真度数据，提升数据驱动和物理信息问题中的算子学习性能。通过利用保真度之间的非线性相关性并引入物理约束，该方法在高保真度数据稀缺或存在噪声时，相比单保真度方法实现了更高的精度。

ABSTRACT

Operator learning for complex nonlinear systems is increasingly common in modeling multi-physics and multi-scale systems. However, training such high-dimensional operators requires a large amount of expensive, high-fidelity data, either from experiments or simulations. In this work, we present a composite Deep Operator Network (DeepONet) for learning using two datasets with different levels of fidelity to accurately learn complex operators when sufficient high-fidelity data is not available. Additionally, we demonstrate that the presence of low-fidelity data can improve the predictions of physics-informed learning with DeepONets. We demonstrate the new multi-fidelity training in diverse examples, including modeling of the ice-sheet dynamics of the Humboldt glacier, Greenland, using two different fidelity models and also using the same physical model at two different resolutions.

研究动机与目标

• 解决在复杂多物理系统中训练深度算子网络时高保真度数据不足的挑战。
• 通过整合更丰富但精度较低的低保真度数据，克服单保真度学习的局限性。
• 通过结合数据和物理信息约束的多保真度训练，提升基于DeepONet的算子近似方法的泛化能力和精度。
• 展示该框架对低保真度数据噪声的鲁棒性，以及在减少高保真度数据需求方面实现高精度预测的有效性。
• 将DeepONet的适用范围扩展到实际问题，如冰盖动力学，其中高保真度模拟或测量成本高昂。

提出的方法

• 构建一个复合DeepONet架构，包含共享主干网络和分别处理低保真度与高保真度输入的分支网络。
• 使用结合低保真度和高保真度数据集的数据保真度项的损失函数进行模型训练，实现联合优化。
• 通过自动微分引入物理信息约束，即使在高保真度数据有限的情况下，也能在高保真度输出上强制满足PDE。
• 采用两阶段训练策略：首先在低保真度数据上进行预训练，然后使用高保真度数据或物理约束进行微调。
• 在损失函数中引入加权方案，以平衡低保真度数据、高保真度数据和物理信息项的贡献。
• 通过为更高保真度数据流添加额外的分支网络，将框架扩展到处理多于两种保真度的情况。

实验结果

研究问题

• RQ1 当高保真度数据稀缺时，结合低保真度和高保真度数据是否能提升基于DeepONet的算子学习精度？
• RQ2 低保真度数据的引入如何影响物理信息DeepONet的收敛性和泛化能力？
• RQ3 当仅有少量高保真度数据时，物理信息约束能在多大程度上提升模型性能？
• RQ4 多保真度DeepONet框架对低保真度数据中的噪声有多大的鲁棒性？
• RQ5 该方法能否在高维实际问题（如冰盖动力学）中有效应用，且仅依赖有限的高保真度观测？

主要发现

• 当高保真度数据有限时，多保真度DeepONet相比单保真度基线模型显著降低了预测误差。
• 在黏性Burgers方程的案例中，即使仅有200个低保真度样本，多保真度模型的误差相比仅使用数据或仅使用物理的训练方式降低了高达50%。
• 该方法对低保真度数据中的噪声具有鲁棒性，在多种噪声水平下均保持高精度。
• 物理信息多保真度训练优于仅使用数据或仅使用物理的训练方式，表明数据与物理约束结合带来了协同增益。
• 该框架成功利用两种不同的数值模型（低保真度和高保真度）对Humboldt冰川动力学进行了建模，仅使用少量高保真度数据即实现了精确预测。
• 该方法可推广至多保真度层级的问题，并可通过修改损失函数纳入部分物理知识。