[论文解读] Theory-Guided Machine Learning for Process Simulation of Advanced Composites

Navid Zobeiry, Anoush Poursartip|arXiv (Cornell University)|Mar 29, 2021

Machine Learning in Materials Science被引用 12

一句话总结

本文提出理论引导的机器学习（TGML），通过将物理定律嵌入神经网络训练，以提升先进复合材料热处理模拟的精度与效率。通过逐步整合领域知识——如解析解、渐近行为及基于物理的激活函数——TGML在小样本数据下实现了更优的泛化能力，显著减少模拟时间，相比有限元方法最高可提升10,000倍。

ABSTRACT

Science-based simulation tools such as Finite Element (FE) models are routinely used in scientific and engineering applications. While their success is strongly dependent on our understanding of underlying governing physical laws, they suffer inherent limitations including trade-off between fidelity/accuracy and speed. The recent rise of Machine Learning (ML) proposes a theory-agnostic paradigm. In complex multi-physics problems, however, creating large enough datasets for successful training of ML models has proven to be challenging. One promising strategy to bridge the divide between these approaches and take advantage of their respective strengths is Theory-Guided Machine Learning (TGML) which aims to integrate physical laws into ML algorithms. In this paper, three case studies on thermal management during processing of advanced composites are presented and studied using FE, ML and TGML. A structured approach to incrementally adding increasingly complex physics to training of TGML model is presented. The benefits of TGML over ML models are seen in more accurate predictions, particularly outside the training region, and ability to train with small datasets. One benefit of TGML over FE is significant speed improvement to potentially develop real-time feedback systems. A recent successful implementation of a TGML model to assess producibility of aerospace composite parts is presented.

研究动机与目标

• 解决有限元（FE）建模在复合材料加工模拟中仿真保真度与计算速度之间的权衡问题。
• 克服传统机器学习（ML）在物理领域应用中的局限性，即小样本或碎片化数据导致泛化能力差且缺乏物理解释一致性。
• 构建系统性框架，将特定领域的物理知识整合至机器学习模型中，以提升预测精度与鲁棒性。
• 展示TGML在多物理场复合材料加工模拟中的有效性，尤其在捕捉训练数据之外的物理趋势方面。
• 通过大幅缩短与高保真FE模型相比的模拟时间，实现在制造过程中实时反馈与控制。

提出的方法

• 通过基于物理的特征工程，将控制偏微分方程（PDEs）和守恒定律（如能量、质量守恒）整合至神经网络架构中。
• 采用基于解析解推导的物理激活函数，以确保神经网络输出的物理解释一致性。
• 使用近似物理解进行预训练，以初始化神经网络，从而在数据有限条件下提升收敛速度与性能。
• 通过从简单的一维问题逐步过渡到三维多物理场问题，实现TGML训练的逐步复杂化，逐步嵌入更高层次的物理解读。
• 利用解析解与渐近行为的理解对输入特征进行变换，降低模型复杂度，同时保持物理精度。
• 在涉及复合材料加工中热管理的三个案例研究中，对比TGML与标准ML及FE模拟的性能表现。

实验结果

研究问题

• RQ1 与标准ML相比，TGML是否能提升先进复合材料热处理模拟的预测精度，尤其是在训练数据分布之外的区域？
• RQ2 在保持或提升模型精度的前提下，TGML能在多大程度上减少对训练数据集规模的需求？
• RQ3 将物理定律整合至神经网络训练中，对多物理场复合材料加工问题中的泛化能力与鲁棒性有何影响？
• RQ4 在真实复合材料制造场景中，TGML相较于高保真有限元（FE）模拟的计算速度提升程度如何？
• RQ5 在传统ML模型失效的场景下，TGML模型是否能实现物理一致性与正确趋势外推？

主要发现

• 即使数据极少，TGML模型的精度也优于大型复杂ML模型，凸显了物理信息归纳偏置的强大作用。
• 仅使用100个数据点，预训练的TGML模型即达到高精度，表明其在数据效率方面显著优于标准ML方法。
• TGML模型保持了物理一致性，并能正确预测训练区域之外的趋势，而标准ML模型则在数据边界外无法泛化。
• 一个中等规模的TGML模型（40个神经元）在标准CPU上仅用26秒即完成100,000次模拟，相比等效FE模拟实现约10,000倍的速度提升。
• 在真实航空航天复合材料机翼蒙皮模拟中，TGML将运行时间从FE模拟的27分钟缩短至仅2秒，具备实现实时反馈的潜力。
• 物理激活函数与特征变换的整合显著降低了模型误差并提升了收敛速度，即使在小型神经网络中亦有明显效果。