[论文解读] Nearly Consistent Finite Particle Estimates in Streaming Importance Sampling

Alec Koppel, Amrit Singh Bedi+2 more|arXiv (Cornell University)|Sep 23, 2019

Sparse and Compressive Sensing Techniques参考文献 58被引用 4

一句话总结

本文提出了一种流式重要性采样方法，通过在再生核希尔伯特空间（RKHS）中使用最大均值差异（MMD）将后验密度估计投影到低维子空间，从而维持近乎一致的有限粒子估计。该方法通过压缩参数调节偏差，实现了显著的内存减少，同时保持了与全样本方法相当的估计精度。

ABSTRACT

In Bayesian inference, we seek to compute information about random variables such as moments or quantiles on the basis of {available data} and prior information. When the distribution of random variables is {intractable}, Monte Carlo (MC) sampling is usually required. {Importance sampling is a standard MC tool that approximates this unavailable distribution with a set of weighted samples.} This procedure is asymptotically consistent as the number of MC samples (particles) go to infinity. However, retaining infinitely many particles is intractable. Thus, we propose a way to only keep a \\emph{finite representative subset} of particles and their augmented importance weights that is \\emph{nearly consistent}. To do so in {an online manner}, we (1) embed the posterior density estimate in a reproducing kernel Hilbert space (RKHS) through its kernel mean embedding; and (2) sequentially project this RKHS element onto a lower-dimensional subspace in RKHS using the maximum mean discrepancy, an integral probability metric. Theoretically, we establish that this scheme results in a bias determined by a compression parameter, which yields a tunable tradeoff between consistency and memory. In experiments, we observe the compressed estimates achieve comparable performance to the dense ones with substantial reductions in representational complexity.

研究动机与目标

• 解决蒙特卡洛方法中的可扩展性挑战：无限粒子是保证一致性的前提，但有限内存限制了粒子的保留。
• 开发一种在线流式算法，通过增强权重维护一个有限且具有代表性的粒子子集，以近似后验分布。
• 通过压缩参数控制偏差，确保理论一致性，从而在内存使用与估计精度之间实现可调和的权衡。
• 通过核均值嵌入将后验嵌入RKHS，以克服直接测度空间投影的不可行性。
• 通过基于MMD的正交匹配追踪（OMP）停止准则，在在线设置中实现模型阶数的有限增长。

提出的方法

• 使用核均值嵌入将后验密度估计嵌入再生核希尔伯特空间（RKHS），以在概率测度上启用线性代数运算。
• 使用最大均值差异（MMD），一种积分概率度量，将RKHS中的后验表示顺序投影到低维子空间。
• 应用基于MMD的正交匹配追踪（OMP）算法，迭代选择与当前子空间足够远的粒子，以确保多样性和代表性。
• 基于MMD距离设置停止准则：若新粒子的特征映射到当前子空间的距离低于阈值 ε/g(x(n))，则不添加该粒子。
• 将投影误差表述为重要性权重与MMD距离的函数，从而在理论上控制压缩引入的偏差。
• 证明字典中粒子的数量保持有限，且由 $ Oig((W/ u)^{2p}ig) $ 上界控制，其中 $ W $ 是未归一化重要性权重的上界，$ u $ 是压缩阈值。

实验结果

研究问题

• RQ1 我们能否在仅使用有限数量粒子的情况下，保持重要性采样中的渐近一致性？
• RQ2 在在线流式设置中，如何确保压缩后的粒子集仍能代表真实的后验分布？
• RQ3 有限粒子压缩引入的理论偏差是什么？是否可以量化并加以控制？
• RQ4 基于MMD的投影准则是否能保证在有界重要性权重下字典大小的有限模型阶数增长？
• RQ5 在流式贝叶斯推断中，内存复杂度可降低到何种程度而不牺牲估计精度？

主要发现

• 所提方法实现了近乎一致的估计，其偏差明确由压缩参数 ε 有界，从而在内存与精度之间实现了可调和的权衡。
• 字典中保留的粒子数量有限，且上界为 $ Cig((W/ u)ig)^{2p} $，其中 $ W $ 是未归一化重要性权重的上界，$ u $ 是MMD阈值。
• 基于MMD的OMP停止准则确保仅当新粒子到当前子空间的距离显著时才被添加，从而防止冗余或重复粒子的累积。
• 理论分析表明，仅当MMD距离超过 $ rac{ u}{g(oldsymbol{x}(n))} $ 时，模型阶数增长（即字典大小增加）才会发生，且在有界重要性权重下，该值被保证远离零。
• 实验结果表明，压缩后的估计性能与全样本重要性采样相当，同时显著降低了表示复杂度。
• 该方法确保投影误差被 $ u $ 限制，且当 $ u \to 0 $ 时，结果估计收敛于真实后验，从而在压缩趋近于零的极限下建立了理论一致性。