[论文解读] Physics-constrained, data-driven discovery of coarse-grained dynamics

Lukas Felsberger, Phaedon‐Stelios Koutsourelakis|arXiv (Cornell University)|Feb 11, 2018

Gaussian Processes and Bayesian Inference参考文献 16被引用 3

一句话总结

本文提出了一种物理约束的、数据驱动的框架，通过使用具有随机变分推断的概率状态空间模型，从细尺度模拟数据中发现粗粒度（CG）动力学。该方法能够对完整的细尺度演化过程进行预测建模，量化由于信息丢失带来的预测不确定性，并通过稀疏贝叶斯学习揭示粗粒度动力学中的关键特征，已在高维随机行走者系统中得到验证。

ABSTRACT

The combination of high-dimensionality and disparity of time scales encountered in many problems in computational physics has motivated the development of coarse-grained (CG) models. In this paper, we advocate the paradigm of data-driven discovery for extract- ing governing equations by employing fine-scale simulation data. In particular, we cast the coarse-graining process under a probabilistic state-space model where the transition law dic- tates the evolution of the CG state variables and the emission law the coarse-to-fine map. The directed probabilistic graphical model implied, suggests that given values for the fine- grained (FG) variables, probabilistic inference tools must be employed to identify the cor- responding values for the CG states and to that end, we employ Stochastic Variational In- ference. We advocate a sparse Bayesian learning perspective which avoids overfitting and reveals the most salient features in the CG evolution law. The formulation adopted enables the quantification of a crucial, and often neglected, component in the CG process, i.e. the pre- dictive uncertainty due to information loss. Furthermore, it is capable of reconstructing the evolution of the full, fine-scale system. We demonstrate the efficacy of the proposed frame- work in high-dimensional systems of random walkers.

研究动机与目标

• 开发一个整体性框架，联合从细尺度模拟数据中发现粗粒度状态变量及其动力学，避免对变量选择与模型构建进行单独处理。
• 解决由于信息丢失导致的预测不确定性量化这一关键挑战，该问题在现有方法中常被忽略。
• 实现从推断出的粗粒度模型中重建完整的细尺度系统演化，确保对粗变量未完全捕捉的可观测量具有实用性。
• 利用稀疏贝叶斯学习避免过拟合并识别粗粒度演化定律中最相关的项。
• 在概率图模型中构建粗粒化过程，通过随机变分推断实现原则性推断与学习。

提出的方法

• 将粗粒化表述为具有粗粒度状态演化转移律和粗到细映射发射律的概率状态空间模型。
• 采用随机变分推断，基于细尺度数据对粗粒度状态进行概率推断，实现从高维模拟中可扩展的学习。
• 通过模型参数的层次先验引入稀疏贝叶斯学习视角，以促进模型简洁性并避免过拟合。
• 使用参数化粗到细映射，从粗粒度变量重建完整的细尺度状态，实现整个系统的恢复。
• 应用重参数化技巧，实现对变分下界（证据下界）的可微优化，通过ADAM实现高效训练。
• 通过解析期望和对难以计算项的蒙特卡洛估计，推导出变分参数的闭式梯度，尤其适用于粗到细似然中的不可计算项。

实验结果

研究问题

• RQ1 如何从细尺度模拟数据中发现粗粒度动力学，同时量化由于信息丢失带来的不确定性？
• RQ2 是否可以构建一个统一框架，联合学习粗变量及其演化规律，而无需单独进行降维处理？
• RQ3 如何利用稀疏贝叶斯学习识别粗粒度动力学中最具物理相关性的项？
• RQ4 从学习到的粗粒度模型中，能够在多大程度上重建完整的细尺度系统？
• RQ5 概率推断与变分近似在实现高维系统可扩展、数据驱动的粗粒化中起到什么作用？

主要发现

• 该框架成功地从粗粒度状态重建了完整细尺度系统的演化，表明粗粒度模型的预测能力可超越所选粗粒度变量。
• 对由于信息丢失导致的预测不确定性进行了量化并显式建模，相较于确定性或非概率方法具有关键优势。
• 稀疏贝叶斯学习识别出粗粒度演化定律中最显著的项，降低了模型复杂度并提升了可解释性。
• 使用随机变分推断实现了从高维细尺度数据中可扩展的学习，如在随机行走者系统中所展示的。
• 概率建模使得在单一、一致的框架中原则性地学习粗粒度转移动力学与粗到细映射成为可能。
• 对证据下界中难以计算的对数似然项进行蒙特卡洛估计是有效的，并支持通过反向传播与ADAM实现端到端训练。