[论文解读] Learning Physical Dynamics with Subequivariant Graph Neural Networks

Jiaqi Han, Wenbing Huang+4 more|arXiv (Cornell University)|Oct 13, 2022

Computational Physics and Python Applications被引用 10

一句话总结

本文提出子等变图神经网络（SGNN），一种新颖的GNN架构，通过将全E(3)等变性放松为子等变性，以在重力等外部场作用下建模物理动力学。通过引入对象感知的消息传递机制与分层处理，SGNN在Physion数据集上的接触预测准确率比当前最先进模拟器高出3%以上，在RigidFall数据集上的滚动MSE降低2倍，同时展现出优异的泛化能力和数据效率。

ABSTRACT

Graph Neural Networks (GNNs) have become a prevailing tool for learning physical dynamics. However, they still encounter several challenges: 1) Physical laws abide by symmetry, which is a vital inductive bias accounting for model generalization and should be incorporated into the model design. Existing simulators either consider insufficient symmetry, or enforce excessive equivariance in practice when symmetry is partially broken by gravity. 2) Objects in the physical world possess diverse shapes, sizes, and properties, which should be appropriately processed by the model. To tackle these difficulties, we propose a novel backbone, Subequivariant Graph Neural Network, which 1) relaxes equivariance to subequivariance by considering external fields like gravity, where the universal approximation ability holds theoretically; 2) introduces a new subequivariant object-aware message passing for learning physical interactions between multiple objects of various shapes in the particle-based representation; 3) operates in a hierarchical fashion, allowing for modeling long-range and complex interactions. Our model achieves on average over 3% enhancement in contact prediction accuracy across 8 scenarios on Physion and 2X lower rollout MSE on RigidFall compared with state-of-the-art GNN simulators, while exhibiting strong generalization and data efficiency.

研究动机与目标

• 为解决现有基于GNN的模拟器因强制实施全E(3)等变性而导致过拟合的问题，尤其在重力等外部场作用下该等变性会失效。
• 在不过度约束模型的前提下，将物理对称性作为归纳偏置引入模型，特别是在对称性部分被破坏的场景中。
• 在基于粒子的表示中，对多种形状和材质的物体之间的复杂、长程相互作用进行建模。
• 在多样化、大规模场景中学习物理动力学时，提升泛化能力和数据效率。
• 正式定义并实现子等变性作为等变性的松弛形式，使其在保留通用近似能力的同时，仍尊重物理约束。

提出的方法

• 提出子等变性作为E(3)等变性的松弛形式，其中对称性群被限制为保持外部场（如重力）方向的变换。
• 设计子等变消息传递模块，显式编码对象身份与几何结构，以区分物体内部与物体之间的相互作用。
• 引入对象感知的消息传递机制，根据粒子所属对象进行处理，实现对形状与材质的感知，从而建模动力学行为。
• 采用分层GNN架构，以建模多物体之间的长程依赖与复杂相互作用。
• 理论分析证明，尽管对称性约束减少，子等变函数空间仍保持通用近似能力。
• 使用可微分物理模拟器损失函数，端到端训练模型于粒子轨迹，并通过数据增强提升泛化能力。

实验结果

研究问题

• RQ1 在重力等外部场存在的情况下，子等变性是否能为物理动力学学习提供优于全E(3)等变性的归纳偏置？
• RQ2 对象感知的消息传递机制如何提升对不同形状与材质物体之间相互作用的建模能力？
• RQ3 分层消息传递是否能增强对大规模系统中长程与复杂物理相互作用的建模能力？
• RQ4 子等变GNN能否在无需微调的情况下泛化到未见过的物理构型（如旋转或倾斜场景）？
• RQ5 与标准等变或非等变GNN相比，子等变性在多大程度上提升了数据效率与泛化能力？

主要发现

• 在Physion基准测试的8个多样化场景中，SGNN相比当前最先进GNN模拟器，平均接触预测准确率提升超过3%。
• 在RigidFall基准测试中，SGNN将滚动均方误差降低为现有最佳GNN基线模拟器的1/2。
• SGNN能有效泛化到新型测试场景，例如重力方向仍垂直向下的倾斜桌面，即使仅在水平构型上进行训练。
• 与EGNN等全E(3)等变模型不同，后者因过度约束而无法感知场景旋转，SGNN在旋转或倾斜场景中仍能正确模拟重力驱动的动力学。
• SGNN在泛化性能上优于非等变模型（如GNS与DPI），表明子等变性在归纳偏置与模型容量之间取得了更优平衡。
• SGNN的训练曲线显示稳定收敛，表明子等变性避免了全E(3)等变模型（如EGNN）在重力作用下出现的训练不稳定性。