[论文解读] Pathwise Conditioning of Gaussian Processes

James T. Wilson, Viacheslav Borovitskiy+3 more|arXiv (Cornell University)|Nov 8, 2020

Gaussian Processes and Bayesian Inference参考文献 100被引用 4

一句话总结

本文提出路径条件化（pathwise conditioning）作为一种新颖的框架，通过在随机函数层面而非边缘分布层面进行条件化，实现了高斯过程后验分布的高效采样。通过利用Matheron更新规则将先验趋势与数据驱动的更新分离，该方法实现了O(N)的采样复杂度，显著提升了在贝叶斯优化和强化学习等应用中高维或连续函数路径的可扩展性。

ABSTRACT

As Gaussian processes are used to answer increasingly complex questions, analytic solutions become scarcer and scarcer. Monte Carlo methods act as a convenient bridge for connecting intractable mathematical expressions with actionable estimates via sampling. Conventional approaches for simulating Gaussian process posteriors view samples as draws from marginal distributions of process values at finite sets of input locations. This distribution-centric characterization leads to generative strategies that scale cubically in the size of the desired random vector. These methods are prohibitively expensive in cases where we would, ideally, like to draw high-dimensional vectors or even continuous sample paths. In this work, we investigate a different line of reasoning: rather than focusing on distributions, we articulate Gaussian conditionals at the level of random variables. We show how this pathwise interpretation of conditioning gives rise to a general family of approximations that lend themselves to efficiently sampling Gaussian process posteriors. Starting from first principles, we derive these methods and analyze the approximation errors they introduce. We, then, ground these results by exploring the practical implications of pathwise conditioning in various applied settings, such as global optimization and reinforcement learning.

研究动机与目标

• 解决传统基于分布的采样在高斯过程中计算不可行的问题，其复杂度随输入维度呈立方级增长。
• 克服以边缘分布为中心的方法的局限性，这些方法在高维或连续函数路径的采样中效率低下。
• 开发一种路径条件化框架，将高斯过程后验视为随机函数，实现高效且可扩展的采样。
• 实现复杂泛函在不确定性决策中的实用模拟，例如在贝叶斯优化和强化学习中的应用。
• 通过在样本路径层面解耦先验与数据影响，建立分析性高斯过程推理与蒙特卡洛采样之间的理论与实践桥梁。

提出的方法

• 使用Matheron更新规则公式化GP条件化：$\boldsymbol{a} \mid \boldsymbol{b} = \boldsymbol{\beta} \overset{\text{d}}{=} \boldsymbol{a} + \mathbf{\Sigma}_{\boldsymbol{a},\boldsymbol{b}} \mathbf{\Sigma}_{\boldsymbol{b},\boldsymbol{b}}^{-1} (\boldsymbol{\beta} - \boldsymbol{b}) $，将条件化视为对随机变量的变换。
• 通过在不同函数基下表示，将GP后验分解为全局（先验）和局部（数据驱动）分量。
• 利用此分解分别建模平滑趋势（来自先验）和局部数据效应（来自似然），实现高效的路径条件化更新。
• 通过从先验中采样并应用Matheron更新的确定性校正来构建高效近似，避免完整的协方差矩阵求逆。
• 将路径条件化框架应用于$\mathcal{O}(N)$时间内的函数样本近似，其中$N$为输入位置的数量。
• 将该方法集成到深度GP架构中，实现端到端学习，使用带随机傅里叶特征和诱导点的稀疏GP近似。

实验结果

研究问题

• RQ1 我们能否通过将条件化从分布层面重新思考为样本路径层面，实现高斯过程后验分布的高效、可扩展采样？
• RQ2 如何以一种支持高效路径条件化计算的方式，分离先验影响与数据驱动更新的影响？
• RQ3 路径条件化引入的近似误差是什么？这些误差在不同基函数选择下的行为如何？
• RQ4 路径条件化能否在贝叶斯优化和强化学习等决策任务中的复杂高维泛函上有效应用？
• RQ5 在实际场景中，路径条件化与传统基于分布的采样方法相比，在准确性和效率方面表现如何？

主要发现

• 路径条件化实现了对GP后验分布的$\mathcal{O}(N)$时间采样，相比传统基于边缘分布的采样方法的$\mathcal{O}(N^3)$复杂度有显著提升。
• 该方法通过在不同函数基下表示先验与数据影响，实现了两者的解耦，从而支持对全局趋势与局部数据影响的高效且可解释的建模。
• 路径条件化引入的近似误差在理论上是可界定的，其大小取决于基函数的选择，当基函数能捕捉后验的主要模式时性能更优。
• 该框架支持在深度GP架构中的高效推理，如在MNIST数据集上训练的自编码器，仅使用256个随机傅里叶特征，在单张GPU上40分钟内完成重建。
• 在贝叶斯优化和强化学习中的实证结果表明，路径条件化采样能够实现复杂泛函的准确模拟，同时保持计算可行性。
• 路径条件化方法与现有GP方法兼容，可无缝集成到需要重复采样的模型中，如基于蒙特卡洛的决策系统。