[论文解读] Exact Sampling from Determinantal Point Processes

Philipp Hennig, Roman Garnett|arXiv (Cornell University)|Sep 22, 2016

Point processes and geometric inequalities参考文献 17被引用 5

一句话总结

本文提出了一种针对连续域上确定性点过程（DPPs）的精确、解析采样方法，利用核特定的谱分解，实现了机器学习应用中精确且高效的采样。关键贡献在于，对于常见的核函数（如平方指数核），通过利用解析特征函数展开，可在较低计算成本下实现精确的DPP采样，使DPP在贝叶斯优化和积分计算中具备更优的蒙特卡罗收敛性能。

ABSTRACT

Determinantal point processes (DPPs) are an important concept in random matrix theory and combinatorics. They have also recently attracted interest in the study of numerical methods for machine learning, as they offer an elegant "missing link" between independent Monte Carlo sampling and deterministic evaluation on regular grids, applicable to a general set of spaces. This is helpful whenever an algorithm explores to reduce uncertainty, such as in active learning, Bayesian optimization, reinforcement learning, and marginalization in graphical models. To draw samples from a DPP in practice, existing literature focuses on approximate schemes of low cost, or comparably inefficient exact algorithms like rejection sampling. We point out that, for many settings of relevance to machine learning, it is also possible to draw exact samples from DPPs on continuous domains. We start from an intuitive example on the real line, which is then generalized to multivariate real vector spaces. We also compare to previously studied approximations, showing that exact sampling, despite higher cost, can be preferable where precision is needed.

研究动机与目标

• 为解决尽管DPP在探索和积分方面具有理论优势，但在连续域上缺乏实用的精确采样方法这一问题。
• 证明对于常见的机器学习核函数（如平方指数核），精确DPP采样是可行的且计算上可实现的。
• 表明精确DPP采样的计算成本主要由核基模型（如高斯过程）中已存在的矩阵求逆主导，从而最小化额外开销。
• 将精确采样与低秩近似方法（Nyström和谱分解）进行比较，揭示低质量近似可能导致的覆盖效果甚至劣于均匀随机采样。

提出的方法

• 该方法依赖于通过核的谱分解得到的特征函数，将DPP核表示为有限秩展开，从而在有限维特征空间上实现精确采样。
• 对于有界域上的平方指数核，其特征函数为三角函数，使得核展开中所需积分可进行解析计算。
• 采样过程包括将原始DPP转换为特征函数系数上的有限维DPP，随后通过特征值分解和基于QR的采样方法实现精确采样。
• 该算法利用测度变换，将原始DPP映射为可处理的形式，利用核的特征函数满足特定正交性和完备性条件的性质。
• 通过在1D中比较精确采样与低秩近似（Nyström和谱方法）的结果，验证了该方法的有效性，使用归一化累积密度函数和样本位置进行评估。
• 计算成本为O(N³ + N²D)，与高斯过程回归的计算成本相当，因此在已进行高斯过程推断时，该方法在实际中具有高效性。

实验结果

研究问题

• RQ1 能否在常见机器学习核函数的连续域上高效实现DPP的精确采样？
• RQ2 精确DPP采样与Nyström和谱分解等低秩近似方法相比性能如何？
• RQ3 在高维DPP采样中，采样精度与计算成本之间的权衡如何？
• RQ4 能否以最小额外开销将精确DPP采样集成到现有核基模型（如高斯过程）中？

主要发现

• 对于常见核函数（如平方指数核），在有界域上，通过解析特征函数展开，可实现可行且高效的精确DPP采样。
• 精确DPP采样的计算成本为O(N³ + N²D)，主要由高斯过程回归中已存在的矩阵求逆主导，因此额外开销极小。
• 低秩近似方法（如Nyström和谱方法）可能产生低质量样本——尤其在低秩时——导致聚类现象甚至劣于均匀随机采样。
• 谱近似质量随近似秩F的增加而提升，但在高维空间中，所需F可能呈指数级增长，使得精确采样更具优势。
• 实证比较表明，精确采样在低F时产生更规则、分布更均匀的样本，且更紧密匹配真实累积密度函数。
• 该方法使DPP可作为贝叶斯优化和积分计算中具有理论依据的探索策略，相较于蒙特卡罗积分具有更优的收敛速率。