[论文解读] Comments on "Bayesian Solution Uncertainty Quantification for Differential Equations" by Chkrebtii, Campbell, Calderhead & Girolami

Jon Cockayne|arXiv (Cornell University)|Oct 25, 2016

Probabilistic and Robust Engineering Design参考文献 10被引用 4

一句话总结

本文批判了Chkrebtii等人提出的微分方程贝叶斯不确定性量化（UQ）框架，认为其基于顺序、类似滤波的更新机制无法充分实现时间上的信息反向传播，从而削弱了其与完整贝叶斯推断的一致性。作者主张后验分布应反映所有可用数据，而不仅限于过去观测，并质疑该方法的信息效率与贝叶斯一致性。

ABSTRACT

I would like to thank the authors for their interesting and very clearly presented paper discussing probabilistic solvers for ODEs and PDEs.

研究动机与目标

• 挑战Chkrebtii等人提出的概率常微分方程求解器框架的贝叶斯一致性
• 揭示该方法在不确定性传播处理上的不一致性，特别是缺乏反向信息流动
• 论证该方法的类似滤波的处理方式未能实现完整的贝叶斯更新，与Skilling（1992）的原理相悖
• 将该方法与替代的概率数值方案进行比较，例如用于偏微分方程的概率无网格方法（PMM）
• 倡导将平滑推理整合到框架中，以提升信息效率与贝叶斯一致性

提出的方法

• 通过一个具有时间依赖向量场f(t)的线性常微分方程构造反例，以展示后验分布的不一致性
• 将该方法的顺序更新机制（即未来f(t)的取值不影响过去u(t)的信念）与完整贝叶斯方法进行对比，后者要求所有数据共同影响所有信念
• 采用Skilling（1992）的框架作为正确贝叶斯UQ的基准，其中f的不确定性被建模并传播至u
• 将该方法与数据同化技术进行对比，指出其类似于滤波而非平滑
• 强调对于线性问题，完整贝叶斯解应同时依赖所有观测，而非仅依赖过去观测，而该方法未能实现这一点
• 建议扩展框架以纳入基于平滑的推理，以实现一致的后验分布

实验结果

研究问题

• RQ1 所提出的常微分方程与偏微分方程中贝叶斯UQ方法是否真正代表完整的贝叶斯更新，还是仅限于类似滤波的顺序更新？
• RQ2 该方法缺乏反向信息流动的问题能否与Skilling（1992）形式化的贝叶斯推断原则相调和？
• RQ3 在一致性和信息效率方面，该方法的不确定性量化与用于偏微分方程的概率无网格方法（PMM）相比如何？
• RQ4 将f(t)的未来评估视为对早期时间点u后验分布无关，这一处理方式有何影响？
• RQ5 该方法能否扩展以整合基于平滑的推理，从而实现更一致的贝叶斯后验？

主要发现

• 该方法的后验分布与完整贝叶斯推断不一致，因为未来对f(t)的观测不会影响早期时间点的后验
• 缺乏反向信息流动违反了所有数据应共同影响完整后验的原则，从而削弱了该方法的贝叶斯一致性
• 该方法类似于数据同化中的滤波，但作者认为平滑（即所有数据共同影响所有推断）更为恰当
• 对于线性问题，完整贝叶斯解应同时依赖所有观测，而非仅过去观测，而该方法未能实现这一点
• 该方法的不确定性量化在信息效率上低于替代方法，如概率无网格方法（PMM）
• 作者建议在框架中引入平滑可解决不一致问题，并提升贝叶斯一致性