[论文解读] Differentiable Likelihoods for Fast Inversion of 'Likelihood-Free' Dynamical Systems

Hans Kersting, Nicholas Krämer+4 more|arXiv (Cornell University)|Feb 21, 2020

Gaussian Processes and Bayesian Inference参考文献 43被引用 7

一句话总结

本论文通过利用高斯 ODE 滤波构建似然函数的局部高斯近似，提出了一种用于 ODE 反问题的可微似然近似方法，从而实现高效的梯度与海森矩阵估计。该方法在似然函数不可知推断中实现了更快的优化与采样，相较于标准方法，在三个基准 ODE 上均实现了更快的收敛速度与更优的后验探索性能。

ABSTRACT

Likelihood-free (a.k.a. simulation-based) inference problems are inverse problems with expensive, or intractable, forward models. ODE inverse problems are commonly treated as likelihood-free, as their forward map has to be numerically approximated by an ODE solver. This, however, is not a fundamental constraint but just a lack of functionality in classic ODE solvers, which do not return a likelihood but a point estimate. To address this shortcoming, we employ Gaussian ODE filtering (a probabilistic numerical method for ODEs) to construct a local Gaussian approximation to the likelihood. This approximation yields tractable estimators for the gradient and Hessian of the (log-)likelihood. Insertion of these estimators into existing gradient-based optimization and sampling methods engenders new solvers for ODE inverse problems. We demonstrate that these methods outperform standard likelihood-free approaches on three benchmark-systems.

研究动机与目标

• 为解决标准似然函数不可知推断在 ODE 反问题中效率低下的问题，该方法虽利用 ODE 求解器的解析结构，但通常将其视为黑箱。
• 克服经典 ODE 求解器仅输出点估计而非似然函数的局限，通过引入概率数值框架实现。
• 利用一种新颖的雅可比矩阵估计器 J，为对数似然函数的梯度与海森矩阵提供可计算的闭式估计器。
• 通过提供可微似然近似，使 ODE 反问题中的 1 阶与 2 阶优化及采样方法成为可能。
• 证明基于所提似然近似进行的基于梯度的推断，在收敛速度与采样效率方面优于标准的似然函数不可知方法。

提出的方法

• 采用高斯 ODE 滤波——一种概率数值方法——将 ODE 解建模为高斯过程，从而获得似然函数的局部近似。
• 为映射 θ ↦ mθ（其中 mθ 为滤波后 ODE 解的均值）构造一种新颖的雅可比矩阵估计器 J，实现梯度与海森矩阵的闭式计算。
• 通过将真实雅可比矩阵分解为 J 与一个敏感性项 S，为 J 提供理论支持，并给出近似误差的上界。
• 利用近似似然函数，支持基于梯度的优化与采样算法（如 L-BFGS 与哈密顿蒙特卡洛）。
• 将似然近似集成至现有推断框架中，以可微、可计算的似然函数替代黑箱模拟。
• 在三个基准 ODE 上验证该方法：逻辑增长模型、洛特卡-沃尔泰拉模型以及一个蛋白质信号转导通路，与随机游走 Metropolis 方法及随机搜索进行比较。

实验结果

研究问题

• RQ1 能否利用概率 ODE 求解器在 ODE 反问题中构建似然函数的局部高斯近似，从而实现可微推断？
• RQ2 所提出的雅可比矩阵估计器 J 是否能作为全敏感性分析或数值积分的高效且准确的替代方案？
• RQ3 基于梯度与海森矩阵的优化与采样方法是否能在 ODE 推断中超越标准的似然函数不可知方法？
• RQ4 雅可比矩阵估计器 J 的近似误差如何随 ODE 解的真实敏感性变化而变化？
• RQ5 该方法是否适用于不严格满足假设 1 的 ODE，如非线性或非参数向量场？

主要发现

• 所提方法在所有三个基准 ODE 上均优于标准的似然函数不可知推断方法（如随机游走 Metropolis MCMC 与随机搜索优化），在收敛速度与采样效率方面表现更优。
• 基于高斯 ODE 滤波框架推导出的梯度与海森矩阵估计器，显著加快了优化收敛速度，并改善了 MCMC 采样中的混合性能。
• 雅可比矩阵估计器 J 相较于全数值积分实现了显著加速，避免了每个参数重复求解 ODE 的开销。
• 理论分析表明，J 的近似误差有界，且可分解为敏感性项 S，为其使用提供了严谨的理论基础。
• 在逻辑 ODE 与蛋白质信号转导通路的实证结果表明，通过重参数化，即使在假设 1 被放宽时，该方法仍能保持高精度。
• 该方法使 ODE 反问题中可应用先进的优化与采样技术，而这些技术在以往因似然函数不可计算而难以实现。