[论文解读] Dynamic Causal Bayesian Optimization

Virginia Aglietti, Neil Dhir+2 more|arXiv (Cornell University)|Oct 26, 2021

Bayesian Modeling and Causal Inference参考文献 49被引用 6

一句话总结

本文提出动态因果贝叶斯优化（dcbo），一种将因果推断、高斯过程建模与动态贝叶斯网络相结合的框架，用于优化时变因果系统中的干预策略。通过利用因果图拓扑结构在时间步之间迁移干预知识，dcbo 在非平稳环境中比 CBO、ABO 或 BO 更快地识别出最优干预，且成本更低。

ABSTRACT

This paper studies the problem of performing a sequence of optimal interventions in a causal dynamical system where both the target variable of interest and the inputs evolve over time. This problem arises in a variety of domains e.g. system biology and operational research. Dynamic Causal Bayesian Optimization (DCBO) brings together ideas from sequential decision making, causal inference and Gaussian process (GP) emulation. DCBO is useful in scenarios where all causal effects in a graph are changing over time. At every time step DCBO identifies a local optimal intervention by integrating both observational and past interventional data collected from the system. We give theoretical results detailing how one can transfer interventional information across time steps and define a dynamic causal GP model which can be used to quantify uncertainty and find optimal interventions in practice. We demonstrate how DCBO identifies optimal interventions faster than competing approaches in multiple settings and applications.

研究动机与目标

• 解决动态系统中因果效应随时间演变的序列最优干预挑战。
• 克服现有方法（如因果贝叶斯优化 CBO、自适应贝叶斯优化 ABO 和标准贝叶斯优化 BO）在建模时间演化或因果依赖关系方面的局限性。
• 开发一种基于因果图结构在时间步之间迁移干预知识的框架，以减少探索并加速收敛。
• 在目标函数非平稳的系统（如经济模型或生物通路）中实现高效、低成本的干预选择。
• 提供一种概率性、不确定性感知的决策方法，适用于因果与时间动态系统，且无需显式建模状态。

提出的方法

• 提出一类新的优化问题，称为动态因果全局优化（DCGO），显式建模时变因果关系。
• 构建动态因果高斯过程（DC-GP）模型，整合跨时间步的观测数据与干预数据。
• 利用动态贝叶斯网络（DBNs）建模系统状态与干预的时间依赖性。
• 基于因果图拓扑结构推导出在时间间可靠迁移干预信息的理论条件，减少冗余探索。
• 在每个时间步，利用融合的观测数据与历史干预数据，为不同干预集合构建代理模型，更新对干预效果的信念。
• 应用一种短视获取函数，以最大化一步前的效用，选择能最小化目标变量且考虑干预成本的干预策略。

实验结果

研究问题

• RQ1 在因果动态系统中，如何有效实现随时间演变的因果效应下，干预知识在时间步之间的迁移？
• RQ2 因果图拓扑结构需满足何种理论条件，才能实现干预信息在时间上的可靠传递？
• RQ3 与静态或非因果方法相比，整合时间动态与因果结构如何提升优化性能？
• RQ4 在非平稳环境中，dcbo 相较于 CBO、ABO 和 BO 如何减少所需干预次数与干预成本？
• RQ5 在现实世界动态系统（如经济或生物模型）中，时间感知的因果贝叶斯优化框架能否优于最先进方法？

主要发现

• 由于在时间间有效迁移干预知识，dcbo 在多个合成与真实世界场景中比 CBO、ABO 和 BO 更快识别出最优干预。
• 理论结果表明，基于因果图结构可实现干预信息在时间步之间的迁移，尤其当目标变量的父节点稳定或可预测演化时效果更佳。
• 通过使用动态因果 GP 同时建模因果结构与时间动态，dcbo 降低了不确定性与探索成本，尤其在非平稳环境中表现更优。
• 在目标函数发生剧烈变化的场景中，dcbo 优于 ABO，因为 ABO 假设时间演化缓慢，难以应对突变。
• 当真实干预函数在时间步之间发生变化时，只要因果图结构保持一致，dcbo 仍能维持性能。
• 在仅部分输入影响目标的场景中，dcbo 能学习干预最有效的变量，避免 ABO 中采用的高成本全干预策略。