[论文解读] Markov Determinantal Point Processes

Raja Hafiz Affandi, Alex Kulesza+1 more|arXiv (Cornell University)|Oct 16, 2012

Random Matrices and Applications参考文献 11被引用 27

一句话总结

本文提出了马尔可夫确定性点过程（M-DPP），这是一种新颖的随机过程，用于随时间建模多样化的子集序列。通过确保每个时间步的个体多样性（通过DPP边缘分布）以及连续集合并集的时序多样性（其边缘分布为DPP），M-DPP实现了项目相关性高效且精确的采样与增量学习，在序列新闻推荐任务中优于基线方法。

ABSTRACT

A determinantal point process (DPP) is a random process useful for modeling the combinatorial problem of subset selection. In particular, DPPs encourage a random subset Y to contain a diverse set of items selected from a base set Y. For example, we might use a DPP to display a set of news headlines that are relevant to a user's interests while covering a variety of topics. Suppose, however, that we are asked to sequentially select multiple diverse sets of items, for example, displaying new headlines day-by-day. We might want these sets to be diverse not just individually but also through time, offering headlines today that are unlike the ones shown yesterday. In this paper, we construct a Markov DPP (M-DPP) that models a sequence of random sets {Yt}. The proposed M-DPP defines a stationary process that maintains DPP margins. Crucially, the induced union process Zt = Yt u Yt-1 is also marginally DPP-distributed. Jointly, these properties imply that the sequence of random sets are encouraged to be diverse both at a given time step as well as across time steps. We describe an exact, efficient sampling procedure, and a method for incrementally learning a quality measure over items in the base set Y based on external preferences. We apply the M-DPP to the task of sequentially displaying diverse and relevant news articles to a user with topic preferences.

研究动机与目标

• 建模随时间演化的多样化子集序列，确保不仅在每个子集中保持多样性，同时在连续时间步之间也保持多样性。
• 开发一种随机过程，保留DPP的优良多样性特性，同时引入时序依赖性。
• 实现从M-DPP中高效且精确的采样，以支持在序列推荐系统中的实际部署。
• 基于用户偏好，支持项目质量评分的增量学习，从而随时间提升推荐的相关性。

提出的方法

• M-DPP被构建为子集上的平稳马尔可夫过程，其转移概率通过保持DPP结构的核函数定义。
• 该过程确保每个单独的集合Yt均服从DPP分布，从而在每个时间步维持多样性。
• 连续集合的并集Zt = Yt ∪ Yt−1在边缘分布上为DPP，从而强制实现时间维度上的多样性。
• 通过核矩阵的谱分解与特征值上的拒绝采样，推导出一种精确且高效的采样算法。
• 提出一种基于用户反馈增量学习项目相关性评分的方法，通过更新核函数实现。
• 在具有主题偏好的序列新闻文章推荐任务上对模型进行训练与评估。

实验结果

研究问题

• RQ1 能否设计一种马尔可夫过程，使其在随时间保持DPP分布的子集的同时，确保时间步之间的多样性？
• RQ2 如何使序列中连续子集并集的边缘分布为DPP，从而强制实现时序多样性？
• RQ3 何种高效采样方法可实现从M-DPP中精确生成样本而不使用近似？
• RQ4 如何在M-DPP框架内基于用户反馈实现项目相关性评分的增量学习？
• RQ5 M-DPP在序列化多样化子集选择任务中是否优于标准DPP及其他基线方法？

主要发现

• M-DPP确保了每个单独集合Yt及其并集Zt = Yt ∪ Yt−1在边缘分布上均为DPP，从而保证了时间步内与时间步间的多样性。
• 开发出一种精确且高效的采样方法，使M-DPP可在实际应用中实现部署。
• 该模型支持基于外部偏好的项目质量评分的增量学习，从而随时间提升推荐的相关性。
• 在新闻推荐任务上的实证评估表明，M-DPP在多样性与相关性指标上均优于基线方法。
• 与标准DPP相比，M-DPP在用户偏好对齐方面实现了显著提升，尤其在维持长期多样性方面表现突出。