[论文解读] Symbolic Physics Learner: Discovering governing equations via Monte Carlo tree search

Fangzheng Sun, Yang Liu+2 more|arXiv (Cornell University)|May 26, 2022

Model Reduction and Neural Networks被引用 13

一句话总结

本文提出符号物理学习器（SPL），一种基于蒙特卡洛树搜索（MCTS）的框架，通过将数学表达式视为符号树，从有限且含噪声的数据中发现非线性动力系统的控制方程。SPL在符号回归与物理定律发现方面优于当前最先进方法，成功从实验数据中恢复出混沌双摆系统中的复杂方程，包括阻尼项。

ABSTRACT

Nonlinear dynamics is ubiquitous in nature and commonly seen in various science and engineering disciplines. Distilling analytical expressions that govern nonlinear dynamics from limited data remains vital but challenging. To tackle this fundamental issue, we propose a novel Symbolic Physics Learner (SPL) machine to discover the mathematical structure of nonlinear dynamics. The key concept is to interpret mathematical operations and system state variables by computational rules and symbols, establish symbolic reasoning of mathematical formulas via expression trees, and employ a Monte Carlo tree search (MCTS) agent to explore optimal expression trees based on measurement data. The MCTS agent obtains an optimistic selection policy through the traversal of expression trees, featuring the one that maps to the arithmetic expression of underlying physics. Salient features of the proposed framework include search flexibility and enforcement of parsimony for discovered equations. The efficacy and superiority of the SPL machine are demonstrated by numerical examples, compared with state-of-the-art baselines.

研究动机与目标

• 解决从稀缺且含噪声的观测数据中发现非线性动力系统解析控制方程的挑战。
• 通过支持灵活、结构化的符号搜索，克服现有方法的局限性——如依赖预定义基函数库（SINDy）、遗传编程（GP）中的过拟合问题以及启发式搜索策略。
• 通过基于语法的规则设计，将特定领域的先验知识融入方程发现过程，提升搜索效率与物理解释性。
• 通过MCTS引导的探索而非事后剪枝，强制实现稀疏性，从而获得简洁且可解释的方程。

提出的方法

• 将数学表达式表示为表达式树，其中内部节点为运算符（如+、×、sin、cos），叶节点为状态变量或常数。
• 采用蒙特卡洛树搜索（MCTS）智能体探索符号表达式树空间，其奖励函数基于数据拟合度与正则化。
• 在MCTS中使用乐观选择策略，平衡探索与利用，优先选择在拟合观测数据方面具有高潜力的表达式树。
• 将先验物理知识整合到允许运算与变量的语法规则中，例如相对角度的三角函数关系以及与速度相关的阻尼项。
• 在MCTS的模拟过程中通过重复最小二乘拟合执行系数优化，以精炼发现的符号表达式。
• 采用受AI-Feynman启发的递归分解策略，简化复杂表达式，提升搜索效率。

实验结果

研究问题

• RQ1 基于MCTS的智能体能否有效从有限且含噪声的数据中发现非线性动力系统的真实控制方程？
• RQ2 将特定领域的先验知识整合到符号运算的语法中，如何影响方程发现的准确率与效率？
• RQ3 SPL框架在基准测试与真实物理系统中，相较于SINDy、Eureqa和NGGP等最先进符号回归方法，其性能优势体现在哪些方面？
• RQ4 该框架是否能在不依赖预设基函数的前提下，发现复杂、非线性且物理解释合理的方程（包括阻尼项）？
• RQ5 在数据稀缺与噪声环境下，SPL方法在混沌系统（如双摆）中的鲁棒性如何？

主要发现

• SPL框架成功从实验数据中恢复出混沌双摆系统的控制方程，包括此前未知的阻尼项。
• 所发现的方程在插值中表现出高保真度，预测的加速度与测试数据集的平滑导数高度吻合。
• 对于双摆系统，SPL识别出正确的函数形式：$\dot{\omega}_1 = -0.0991\dot{\omega}_2\cos(\Delta\theta) - 0.103\omega_2^2\sin(\Delta\theta) - 69.274\sin(\theta_1) + 0.515\cos(\theta_1)$，以及$\dot{\omega}_2$的类似表达式。
• 在Nguyen符号回归基准测试中，SPL优于SINDy、Eureqa和NGGP，展现出更强的泛化能力与复杂表达式发现的鲁棒性。
• 该方法有效将先验知识（如三角函数依赖关系与速度相关阻尼）融入语法设计，提升了搜索收敛速度与物理解释性。
• 尽管系数估计计算成本较高，该框架在数据噪声与样本有限条件下，仍展现出强大的真实物理定律恢复能力。