[论文解读] Physics-Integrated Variational Autoencoders for Robust and Interpretable Generative Modeling

Naoya Takeishi, Alexandros Kalousis|arXiv (Cornell University)|Feb 25, 2021

Generative Adversarial Networks and Image Synthesis被引用 16

一句话总结

本文提出物理集成变分自编码器（VAEs），将不完整的物理模型嵌入潜在空间，以提升模型的鲁棒性、可解释性以及分布外泛化能力。通过引入一种正则化学习框架，平衡基于物理的组件与可训练组件之间的关系，该方法确保了物理参数的有意义使用，并实现了可控、可解释的生成。实验在合成数据、星系图像和步态数据集上验证了其优越的外推与生成性能。

ABSTRACT

Integrating physics models within machine learning models holds considerable promise toward learning robust models with improved interpretability and abilities to extrapolate. In this work, we focus on the integration of incomplete physics models into deep generative models. In particular, we introduce an architecture of variational autoencoders (VAEs) in which a part of the latent space is grounded by physics. A key technical challenge is to strike a balance between the incomplete physics and trainable components such as neural networks for ensuring that the physics part is used in a meaningful manner. To this end, we propose a regularized learning method that controls the effect of the trainable components and preserves the semantics of the physics-based latent variables as intended. We not only demonstrate generative performance improvements over a set of synthetic and real-world datasets, but we also show that we learn robust models that can consistently extrapolate beyond the training distribution in a meaningful manner. Moreover, we show that we can control the generative process in an interpretable manner.

研究动机与目标

• 解决将不完整或不完善的物理模型整合到深度生成模型中的挑战，防止数据驱动组件覆盖或忽略物理语义。
• 通过将潜在空间的某一部分基于物理变量，提升模型的鲁棒性与泛化能力，特别是在分布外场景下。
• 通过为可识别的潜在变量分配特定的物理意义（例如，摆角、阻尼系数），确保模型的可解释性。
• 通过操纵基于物理的潜在变量，在保持数据保真度的前提下，实现可控的反事实生成。
• 开发一种正则化训练目标，防止神经网络扭曲或破坏基于物理的潜在变量的预期语义。

提出的方法

• 该方法采用VAE架构，其中解码器结合了可微分的物理模型（例如，ODE）与神经网络，潜在空间的某部分明确与物理参数（例如，ω, ξ, u）关联。
• 基于物理的潜在变量（z_P）被语义化为物理量，而其余潜在空间（z_A）则通过神经网络学习。
• 提出一种新型正则化学习目标，结合重构损失与惩罚项（R_PPC），约束z_P的后验分布接近其先验分布，从而保持物理语义。
• 正则化通过限制z_P的后验与先验之间KL散度的上界实现，确保模型不会学习到忽略或扭曲物理组件的行为。
• 使用可微分求解器（例如，用于ODE）以确保通过物理模型的端到端反向传播，支持联合训练。
• 该框架应用于合成摆动数据、星系图像生成与人体步态时间序列数据，并通过消融实验分析正则化的影响。

实验结果

研究问题

• RQ1 将不完整的物理模型整合到VAEs中，是否能提升模型在训练分布之外的泛化与鲁棒性？
• RQ2 如何确保基于物理的潜在变量被有意义地使用，而不被神经网络组件所覆盖？
• RQ3 能否通过直接操纵基于物理的潜在变量，实现可解释的生成？
• RQ4 所提出的正则化方法是否能在训练过程中保持物理参数的语义含义？
• RQ5 与纯神经网络或纯物理模型相比，引入物理模型对重构精度与生成质量有何影响？

主要发现

• 尽管重构误差相似，NN+phys+reg 模型的生成性能显著优于 NN-only 与 NN+phys，表明其具有更好的解耦与泛化能力。
• 在星系图像数据集上，NN+phys+reg 模型的重构 MAE 为 0.0180（标准差 3.3×10⁻²），优于 NN-only（0.0167）与 Phys-only（0.0264），生成质量更优。
• 在步态数据集上，NN+phys+reg 模型将重构 MAE 降低至 0.259（标准差 9.0×10⁻³），优于 NN+phys（0.273）与 NN+solver（0.276）。
• 通过调节基于物理的潜在变量（如星系角度），实现了有意义且真实的反事实样本生成，即使在分布外取值（如 θ < 0）下也表现出稳健的外推能力。
• 潜在空间分析表明，在 NN+phys+reg 模型中，物理属性（如星系角度）的语义被清晰地分离至 z_P，而 z_A 则承载非物理信息，证实了成功的解耦。
• 带有正则化（α > 0）的模型保持了稳定的物理语义，并能生成合理的反事实样本；而无正则化（α = 0）的模型则无法生成有意义的变体。