[论文解读] Learning Symmetries of Classical Integrable Systems

Roberto Bondesan, Austen Lamacraft|arXiv (Cornell University)|Jun 11, 2019

Computational Physics and Python Applications参考文献 25被引用 20

一句话总结

本文提出深度辛流——一种通过架构约束强制实现辛（典范）变换的神经网络，用于揭示经典可积系统中的隐藏对称性。通过在架构中施加辛条件，该方法将轨迹转化为作用量-角度变量中的圆周轨道，成功学习了开普勒、卡洛杰罗-摩泽和内曼模型的结构，并展现出对未见轨迹的良好泛化能力。

ABSTRACT

The solution of problems in physics is often facilitated by a change of variables. In this work we present neural transformations to learn symmetries of Hamiltonian mechanical systems. Maintaining the Hamiltonian structure requires novel network architectures that parametrize symplectic transformations. We demonstrate the utility of these architectures by learning the structure of integrable models. Our work exemplifies the adaptation of neural transformations to a family constrained by more than the condition of invertibility, which we expect to be a common feature of applications of these methods.

研究动机与目标

• 开发一种数据驱动的方法，用于发现经典哈密顿系统中在原始变量中不明显的隐藏对称性。
• 通过施加辛性（比可逆性更强的条件）来克服标准归一化流的局限性，以保持哈密顿动力学的几何结构。
• 证明深度神经网络可通过将相空间轨迹映射为圆周轨道，学习可积系统的动作-角度变换。
• 评估所学习的辛流在训练分布外轨迹上的泛化能力，特别是对如内曼模型这类拟周期系统。

提出的方法

• 设计一种由多个模块组成的神经网络架构，通过确保每个模块的雅可比矩阵满足辛条件 $ J^T ilde{oldsymbol{ heta}} ilde{oldsymbol{ heta}} J = ilde{oldsymbol{ heta}} $ 来参数化辛变换，其中 $ ilde{oldsymbol{ heta}} $ 为辛形式。
• 构建一个可微分的损失函数，通过惩罚在变换后的相空间中轨迹偏离圆形的平均平方偏差来实现，偏差定义为每个 $ q_j-p_j $ 平面中轨迹到圆的平均平方偏离。
• 使用随机梯度下降配合 Adam 优化器进行训练，其中轨迹通过 Runge-Kutta 求解器进行数值积分，并在各训练周期中打乱以确保多样化的比较。
• 使用逆变换 $ T^{-1} $ 将轨迹拉回原始空间并可视化所学习的辛流，确认该方法能将复杂轨道映射为圆形。
• 探索其他训练目标，如最小化变换后哈密顿量密度与基分布之间的 KL 散度，或强制变换后哈密顿量与角度无关。
• 利用可积系统的解析解以提高训练稳定性，减少对数值微分方程求解器的依赖。

实验结果

研究问题

• RQ1 深度神经网络能否学习到揭示经典可积系统中隐藏对称性的辛变换？
• RQ2 所学习的辛流在未见轨迹上的泛化能力如何，特别是对如内曼模型这类拟周期系统？
• RQ3 在神经网络架构中强制施加辛性是否相比标准归一化流能更好地保持哈密顿结构？
• RQ4 该方法能否在不预先知晓其守恒量的情况下发现可积系统的动作-角度变量？
• RQ5 其他训练目标（如 KL 散度、角度无关性）是否能实现相当或更优的对称性发现性能？

主要发现

• 所提出的深度辛流成功地将开普勒和卡洛杰罗-摩泽模型的轨迹映射到 $ q_j-p_j $ 平面中的圆周轨道，证实了动作-角度变量的恢复。
• 对于包含 $ n=3 $ 个振子的内曼模型，所学习的辛流表现出良好泛化能力：在不同半径下测试损失保持较低（例如，$ r=3 $ 时为 3.7，$ r=5 $ 时为 12.4，$ r=7 $ 时为 23.4），即使在未见的 $ r $ 值下也成立。
• 该模型在训练半径之外仍具泛化能力，如图 4 所示的拉回轨迹在 $ r=2,4,6,8 $ 时仍保持圆形，表明对半径变化具有鲁棒性。
• 该方法通过将轨迹映射为圆，实现了李雅普诺夫-阿诺德环面的可视化，使得可通过所学习的辛变换解释相空间点。
• 基于圆周偏差的损失函数能有效引导训练，训练半径处损失最小，邻近半径处损失适度上升，表明优化过程一致。
• 替代训练目标（如最小化 KL 散度或强制变换后哈密顿量与角度无关）是可行的，并在附录中进行了分析，表明目标设计具有灵活性。