[论文解读] Comment on the article "Distilling free-form natural laws from experimental data"

Christopher J. Hillar, Friedrich T. Sommer|arXiv (Cornell University)|Oct 26, 2012

Model Reduction and Neural Networks参考文献 4被引用 10

一句话总结

本文批判了施密特与利普森在符号回归方法中用于从实验数据发现自然定律的适应度函数，证明其在数学上存在缺陷，且对一般系统而言是平坦的。研究显示，该方法的成功并非源于无先验知识地发现定律，而是因为适应度函数中隐含地编码了哈密顿力学与拉格朗日力学，从而否定了其真正无假设发现的主张。

ABSTRACT

In the article "Distilling free-form natural laws from experimental data", Schmidt and Lipson introduced the idea that free-form natural laws can be learned from experimental measurements in a physical system using symbolic (genetic) regression algorithms. An important claim in this work is that the algorithm finds laws in data without having incorporated any prior knowledge of physics. Upon close inspection, however, we show that their method implicitly incorporates Hamilton's equations of motions and Newton's second law, demystifying how they are able to find Hamiltonians and special classes of Lagrangians from data.

研究动机与目标

• 严格分析施密特与利普森论文中提出的适应度函数在发现自由形式自然定律方面的数学有效性。
• 证明该适应度函数对一般系统而言是平坦的且无效，无法区分有意义的守恒定律。
• 揭示该方法的表面成功源于在适应度度量中嵌入了物理定律，特别是哈密顿运动方程与牛顿第二定律（针对势能力）。
• 提出基于理论基础的替代适应度函数，可在不隐含物理假设的前提下，唯一地从时间序列数据中恢复哈密顿量与拉格朗日量。
• 澄清原始论文中关于算法发现过程中不存在先验物理知识的误解。

提出的方法

• 从数学上证明[4, 公式S8]中的适应度函数对所有函数f恒为零，原因在于沿轨迹上存在恒等式δx/δy | pairing = dx/dy。
• 将适应度函数重新解释为编码了哈密顿运动方程或保守力场下的牛顿第二定律，表明其并非无假设。
• 提出一种基于欧拉-拉格朗日方程的新型适应度函数，结合符号偏导数与状态变量的数值时间导数。
• 构建一个哈密顿适应度函数HFit(f)，用于评估函数f在每个时间步上与∂H/∂q̇_i = dq_i/dt 和 ∂H/∂q_i = -dṗ_i/dt 的偏离程度。
• 基于时间序列数据上欧拉-拉格朗日表达式消失的特性，制定一个拉格朗日适应度函数LFit(f)。
• 通过简谐振子实例验证新适应度函数，显示其在正确哈密顿参数处达到峰值适应度，而原始适应度函数则保持平坦。

实验结果

研究问题

• RQ1 [4, 公式S8]中提出的适应度函数在数学上是否成立，且能否有效区分有效守恒定律与任意函数？
• RQ2 符号回归在发现哈密顿量与拉格朗日量方面的成功，在多大程度上依赖于适应度函数中隐含包含的物理定律？
• RQ3 能否构建一个理论上有依据的适应度函数，使其在不依赖先验物理假设的前提下，唯一地从时间序列数据中恢复哈密顿量与拉格朗日量？
• RQ4 为何原始方法虽能成功发现哈密顿量，却无法发现一般拉格朗日量（如双摆系统）？
• RQ5 如何设计适应度函数，使其能直接编码经典力学方程（如欧拉-拉格朗日方程或哈密顿方程）的结构，以适用于符号回归？

主要发现

• [4, 公式S8]中的适应度函数对所有函数f在数学上恒为零，意味着其对每个候选定律赋予相同的适应度，因此无法实现有效区分。
• 原始方法观察到的成功并非源于无假设发现，而是因为适应度函数隐含编码了哈密顿运动方程或牛顿第二定律（针对势能力）。
• 当将适应度函数重新解释为包含哈密顿方程时，其能正确识别出系统的唯一哈密顿量，该结论已在简谐振子上得到验证。
• 基于欧拉-拉格朗日方程的改进适应度函数可在特定情况下恢复拉格朗日量，但对一般拉格朗日量（如双摆系统）则失效。
• 基于哈密顿方程与欧拉-拉格朗日方程精确形式的所提出的HFit(f)与LFit(f)适应度函数，在正确物理参数处产生峰值适应度，而原始方法则无此表现。
• 在简谐振子上的数值验证表明，原始适应度函数(2)在整个参数空间上保持平坦，而新HFit(f)函数在(α, β, γ) = (0.5, 0, 0.5ω²)处正确识别出真实哈密顿量，当ω² = 1时成立。