[论文解读] Differentiable Physics: A Position Piece

Bharath Ramsundar, Dilip Krishnamurthy+1 more|arXiv (Cornell University)|Sep 14, 2021

Model Reduction and Neural Networks参考文献 101被引用 11

一句话总结

本文提出可微分物理作为统一可微编程与经典数值方法的范式，用于建模物理系统。通过利用自动微分与神经网络，该方法实现了物理模拟的端到端优化、参数估计以及科学基础模型构建，显著加速了材料科学、药物发现与流体动力学中复杂系统的逆向设计与模拟。

ABSTRACT

Differentiable physics provides a new approach for modeling and understanding the physical systems by pairing the new technology of differentiable programming with classical numerical methods for physical simulation. We survey the rapidly growing literature of differentiable physics techniques and highlight methods for parameter estimation, learning representations, solving differential equations, and developing what we call scientific foundation models using data and inductive priors. We argue that differentiable physics offers a new paradigm for modeling physical phenomena by combining classical analytic solutions with numerical methodology using the bridge of differentiable programming.

研究动机与目标

• 通过将经典解析解与现代可微编程相结合，建立可微分物理作为建模物理现象的新范式。
• 综述并整合可微分物理技术在多样化科学领域中的快速增长文献。
• 展示可微编程如何实现物理系统中高效参数估计、微分方程求解与表征学习。
• 倡导开发科学基础模型，将大规模实验与计算数据提炼为紧凑且可泛化的物理表征。
• 将可微分物理定位为科学机器学习的变革性框架，推动工程与物理科学领域中快速模拟与逆向设计的发展。

提出的方法

• 利用自动微分计算通过复杂物理模拟（以可微程序实现）的梯度。
• 将可微编程应用于经典数值求解器（如有限差分法、有限元法），使其具备可微性与可训练性。
• 使用神经网络作为通用函数逼近器，学习物理表征与微分方程的代理模型。
• 将归纳偏置（如对称性、守恒定律）融入神经架构，以提升泛化能力与物理一致性。
• 利用基于梯度的优化方法，从未观测数据中估计物理模型中的未知参数，实现逆向建模。
• 通过在大规模物理数据集上预训练，构建科学基础模型，以捕捉广泛适用的物理原理并用于下游任务。

实验结果

研究问题

• RQ1 可微编程如何用于提升物理模拟的精度与效率？
• RQ2 在非线性物理系统中，利用可微分物理进行参数估计的关键技术有哪些？
• RQ3 可微分物理能否实现对复杂系统的一般化、物理一致的表征学习？
• RQ4 基于可微分物理的科学基础模型相较于传统模拟与学习方法有何优势？
• RQ5 可微分物理在多大程度上弥合了解析物理与数据驱动深度学习之间的鸿沟？

主要发现

• 可微分物理实现了物理模拟的端到端优化，使材料与分子工程中的快速逆向设计成为可能。
• 在复杂物理模型中，基于梯度的参数估计方法相比传统系统辨识方法，显著提升了可扩展性与准确性。
• 通过可微分物理训练的神经网络能够以高精度求解高维常微分方程与偏微分方程，且计算成本更低。
• 通过可微分物理进行的表征学习可生成语义有意义、不变的向量嵌入，对下游预测任务具有实用价值。
• 基于可微分物理构建的科学基础模型在跨领域任务中表现出良好泛化能力，在蛋白质结构预测与等离子体流体闭合等任务中优于标准模型。
• 将归纳偏置（如旋转不变性、守恒定律）整合到可微架构中，可提升模型鲁棒性与物理合理性。