[论文解读] Physics-Augmented Learning: A New Paradigm Beyond Physics-Informed Learning

Ziming Liu, Yunyue Chen+2 more|arXiv (Cornell University)|Sep 28, 2021

Model Reduction and Neural Networks被引用 13

一句话总结

本文提出了物理增强学习（PAL），这是一种新范式，通过将生成性物理特性（如拉格朗日动力学、正定性、对称性）整合到神经网络架构中，以补充物理信息学习（PIL）。与PIL通过损失函数施加判别性约束不同，PAL将模型分解为天然满足物理定律的组件，从而在PIL失效或表现不佳的情况下实现更优性能，尤其在符号回归和N体动力学预测任务中表现突出。

ABSTRACT

Integrating physical inductive biases into machine learning can improve model generalizability. We generalize the successful paradigm of physics-informed learning (PIL) into a more general framework that also includes what we term physics-augmented learning (PAL). PIL and PAL complement each other by handling discriminative and generative properties, respectively. In numerical experiments, we show that PAL performs well on examples where PIL is inapplicable or inefficient.

研究动机与目标

• 为解决物理信息学习（PIL）的局限性，即其依赖于判别性物理约束，且在这些约束无法高效计算时会失效。
• 提出一种新范式——物理增强学习（PAL），将生成性物理特性（如拉格朗日、正定、对称动力学）直接整合到模型设计中。
• 证明PAL在PIL不适用或效率低下时，能实现比PIL更优的泛化能力和性能。
• 通过区分判别性（PIL）与生成性（PAL）物理特性，统一机器学习中归纳偏置的处理方式。
• 展示PAL通过将函数分解为物理一致的组件，可实现更精确的符号回归与动力学恢复。

提出的方法

• PAL将生成性物理特性形式化为理想生成器——能够仅生成满足特定物理定律的符号或神经网络函数。
• 它将目标函数 $ f $ 分解为 $ f = f_+ + f_- $，其中 $ f_+ $ 满足特定物理性质（如可分性、旋转不变性、正性），而 $ f_- $ 为违反该性质的残差项。
• 生成性组件 $ f_+ $ 被约束为由可微、高效且完备的生成器生成，从而在设计上保证物理一致性。
• 该方法在 $ f_+ $ 上应用符号回归（如AI Feynman），得益于严格的物理结构，而 $ f_- $ 则通过端到端方式学习。
• 在动力学预测中，PAL通过架构设计强制交互力的时间不变性，而PIL则依赖损失函数正则化。
• 该框架通过在符号回归和N体动力学任务上的数值实验得到验证，在相同设置下对比PAL与PIL的性能。

实验结果

研究问题

• RQ1 能否设计一种机器学习框架，将生成性物理定律（如拉格朗日动力学或正定性）直接嵌入模型架构，而非通过损失函数强制执行？
• RQ2 当某一物理性质为生成性但非判别性时（如拉格朗日动力学），PAL是否仍可在PIL失效时有效应用？
• RQ3 在涉及可分性、旋转不变性和正性的符号回归任务中，PAL与PIL相比表现如何？
• RQ4 当力定律未知但假设为时间不变时，PAL是否能提升N体系统中动力学恢复的准确性？
• RQ5 与基于损失的正则化（PIL）相比，通过架构集成物理归纳偏置（PAL）是否能带来更好的泛化能力和可解释性？

主要发现

• PAL成功将函数分解为物理有效分量 $ f_+ $ 与残差 $ f_- $，在符号回归中近乎完美地恢复了真实可分部分。
• 在可加可分性任务中，PAL以低于0.02的误差恢复了 $ x_1^2 + x_2^2 $，而PIL则学习了完整的非可分函数。
• 在旋转不变性任务中，PAL以误差 $ \text{error} \times 10^{-5} $ 成功提取了对称分量 $ 0.5(x_1^2 + x_2^2) $，而PIL未能分离出对称部分。
• 在正性任务中，PAL成功识别出 $ g(g(x)) $，其中 $ g(x) = -\text{sin}(x) + 0.004 $，与真实值完全匹配；而PIL因缺乏判别性损失而无法适用。
• 在N体动力学中，PAL在轨迹插值与力恢复任务中均优于PIL，重建真实力律 $ f(r) = r^2 $ 的误差更低。
• 结果表明，PAL不仅适用于PIL失效的情形（如非判别性性质），且在两者均适用时也表现更优，归因于架构层面的归纳偏置。