[论文解读] Moment-Based Variational Inference for Markov Jump Processes

Christian Wildner, Heinz Koeppl|arXiv (Cornell University)|May 14, 2019

Machine Learning and Algorithms被引用 3

一句话总结

该论文通过将跃迁划分为若干类别，提出了一种基于矩量的变分推断方法，用于马尔可夫跳跃过程，从而以自然矩量函数的形式表达Kullback-Leibler散度。该方法实现了灵活且复杂度可控的近似平滑与参数推断，通过修改先验以确保绝对连续性，相较于平均场方法表现更优，在基因表达和捕食者-猎物模型中均取得成功。

ABSTRACT

We propose moment-based variational inference as a flexible framework for approximate smoothing of latent Markov jump processes. The main ingredient of our approach is to partition the set of all transitions of the latent process into classes. This allows to express the Kullback-Leibler divergence from the approximate to the posterior process in terms of a set of moment functions that arise naturally from the chosen partition. To illustrate possible choices of the partition, we consider special classes of jump processes that frequently occur in applications. We then extend the results to latent parameter inference and demonstrate the method on several examples.

研究动机与目标

• 开发一种灵活的近似平滑框架，用于具有无界状态空间的隐马尔可夫跳跃过程。
• 解决在跳跃过程变分推断中绝对连续性的问题，该问题在基于乘积形式的平均场方法中尤为突出。
• 通过基于跃迁划分方案导出的矩量函数表达KL散度，将推断问题转化为由矩量函数导出的常微分方程系统控制的最优控制问题，从而实现高效推断。
• 通过基于矩量的近似方法，将该方法扩展至隐状态与参数的联合推断。
• 在合成生物学模型（包括基因表达和捕食者-猎物动力学）上验证该方法的有效性。

提出的方法

• 将马尔可夫跳跃过程中的所有跃迁划分为预定义的类别，以构建变分近似的结构。
• 通过跃迁划分所诱导的矩量函数，表达近似后验与精确后验之间的Kullback-Leibler散度。
• 将变分族构建为对先验过程的修改，以确保绝对连续性，避免基于乘积形式近似固有的问题。
• 将推断问题简化为由矩量函数导出的常微分方程系统所控制的最优控制问题。
• 在矩方程无法闭合的情况下（特别是捕食者-猎物系统等非线性模型中），使用矩量闭合技术。
• 通过适当的划分选择，推导出参数的伽马变分分布，从而将框架扩展至参数推断。

实验结果

研究问题

• RQ1 如何使马尔可夫跳跃过程的变分推断在高维或无界状态空间下既灵活又计算上可行？
• RQ2 跃迁的划分是否能导致后验近似中KL散度的可计算矩量表示？
• RQ3 跃迁划分的选择如何影响变分近似的质量与可解释性？
• RQ4 该方法能否在保持计算效率的同时扩展至隐状态与模型参数的联合推断？
• RQ5 矩量闭合对非线性跳跃过程中近似精度的影响如何？

主要发现

• 在基因表达模型中，该方法实现了真实的阳性检测率 α = 0.94 和假阳性率 β = 0.15，假阳性主要源于短暂的瞬态事件。
• 在观测之间，变分后验方差保持较高水平，表明其在捕捉观测引起的方差减少方面存在局限，可能由于每个反应通道仅依赖单一时间依赖因子，自由度不足。
• 在捕食者-猎物模型中，近似后验方差高于精确平滑过程，表明其为保守近似，尽管均值轨迹仍与真实隐路径接近。
• 该方法将完整的平滑问题简化为基因表达示例中的九个常微分方程系统，展示了计算上的可行性。
• 矩量闭合技术可应用于非线性模型以闭合矩方程，使该框架能够应用于复杂系统。
• 合适的跃迁划分选择可自然导出参数的伽马变分分布，从而实现高效的联合推断。