[论文解读] Hamiltonian Generative Networks

Péter Tóth, Danilo Jimenez Rezende+4 more|arXiv (Cornell University)|Sep 30, 2019

Model Reduction and Neural Networks参考文献 32被引用 29

一句话总结

该论文提出哈密顿生成网络（HGN），一种深度生成模型，能够从高维像素观测中学习哈密顿动力学，且无需施加限制性领域假设。通过推断潜在状态并利用哈密顿方程展开动力学，HGN 实现了可逆、平滑且可控的轨迹生成，在物理系统上的表现优于 HNN 等先前方法，并进一步提出一种新型归一化流变体——神经哈密顿流（NHF），用于表达性强的密度建模，具备体积守恒与能量守恒特性。

ABSTRACT

The Hamiltonian formalism plays a central role in classical and quantum physics. Hamiltonians are the main tool for modelling the continuous time evolution of systems with conserved quantities, and they come equipped with many useful properties, like time reversibility and smooth interpolation in time. These properties are important for many machine learning problems - from sequence prediction to reinforcement learning and density modelling - but are not typically provided out of the box by standard tools such as recurrent neural networks. In this paper, we introduce the Hamiltonian Generative Network (HGN), the first approach capable of consistently learning Hamiltonian dynamics from high-dimensional observations (such as images) without restrictive domain assumptions. Once trained, we can use HGN to sample new trajectories, perform rollouts both forward and backward in time and even speed up or slow down the learned dynamics. We demonstrate how a simple modification of the network architecture turns HGN into a powerful normalising flow model, called Neural Hamiltonian Flow (NHF), that uses Hamiltonian dynamics to model expressive densities. We hope that our work serves as a first practical demonstration of the value that the Hamiltonian formalism can bring to deep learning.

研究动机与目标

• 开发一种深度学习模型，能够直接从高维观测（如图像）中学习哈密顿动力学，而无需假设牛顿力学或受限的物理领域。
• 解决从像素级数据中推断抽象相空间表征的挑战，从而实现对复杂连续时间动力学的建模。
• 证明哈密顿动力学可在机器学习中用于序列生成、表征学习和密度估计等任务。
• 提出神经哈密顿流（NHF），一种基于哈密顿动力学的归一化流模型，可保持体积守恒并实现表达性强的密度建模，同时具备可解释性。
• 展示 HGN 可生成可逆的前向与后向兼容轨迹，并通过积分器时间步长控制轨迹展开速度。

提出的方法

• HGN 使用编码器从堆叠图像序列中推断初始潜在状态（位置与动量），将像素观测映射到相空间。
• 模型利用蛙跳积分器展开学习到的哈密顿量，以模拟连续时间动力学，确保时间可逆性与数值稳定性。
• 解码器仅使用位置变量重建图像，训练期间使用重建损失使潜在动力学与观测图像序列对齐。
• 哈密顿量由神经网络参数化，输入为潜在状态变量，输出为总能量，其中分别设置动能与势能分量的独立头。
• HGN 的改进版本成为神经哈密顿流（NHF），其中堆叠的、具有学习哈密顿量的哈密顿流作为归一化流，保持体积守恒并支持密度估计。
• 模型在初始状态上使用软均匀先验，并通过蛙跳步长积分流，最终变换后的分布与复杂、多模态的数据分布相匹配。

实验结果

研究问题

• RQ1 深度神经网络能否在不假设牛顿力学或特定物理约束的前提下，直接从高维图像观测中学习哈密顿动力学？
• RQ2 在复杂系统中，长时间轨迹展开时，推断出的哈密顿量在能量守恒与时间可逆动力学方面表现如何？
• RQ3 哈密顿形式能否被有效适配为表达性强归一化流在生成建模中的基础？
• RQ4 HGN 在包括多体系统等具有非平凡相互作用的多样化物理系统中，泛化能力如何？
• RQ5 在推理阶段，所学动力学能否被操控（如加速、减速、反向）同时保持一致性与重建保真度？

主要发现

• HGN 在所有四个测试系统（弹簧质量、摆、双体、三体）中显著优于 HNN，测试重建损失为 0.02–0.05（HGN，确定性），而 HNN 为 1.43–28.34。
• 采用蛙跳积分的 HGN 在弹簧系统中哈密顿量方差为 0.68，摆系统为 7.13，双体系统为 0.45，三体系统为 1.65（缩放系数为 1e+4），表明能量守恒性能优异。
• HGN 可成功生成可逆轨迹：前向、反向、双倍速与半速轨迹均保持一致且视觉连贯，而 HNN 会退化为平均图像重建。
• 神经哈密顿流（NHF）能学习具有多个吸引子的多模态密度，表现为与数据模态对齐的局部极小值势能函数。
• NHF 在高斯混合数据集上的性能与 RNVP 归一化流相当，但参数更少，计算效率更高，得益于哈密顿结构。
• 通过将学习到的哈密顿量分解为动能与势能项，模型的可解释性得到增强，清晰揭示了对应于数据模态的势阱区域。