[论文解读] Ordered Submodularity and its Applications to Diversifying Recommendations

Jon Kleinberg, Emily Ryu+1 more|arXiv (Cornell University)|Mar 1, 2022

Multi-Criteria Decision Making被引用 7

一句话总结

本文提出了有序次模性（ordered submodularity）这一新形式化框架，将次模优化扩展至序列型问题，其中物品位置会影响其价值，例如内容推荐。该文证明了贪心算法对有序次模函数可提供2-近似解，建立了紧致界，并为排序与多样化任务提供了近似保证。

ABSTRACT

A fundamental task underlying many important optimization problems, from influence maximization to sensor placement to content recommendation, is to select the optimal group of $k$ items from a larger set. Submodularity has been very effective in allowing approximation algorithms for such subset selection problems. However, in several applications, we are interested not only in the elements of a set, but also the order in which they appear, breaking the assumption that all selected items receive equal consideration. One such category of applications involves the presentation of search results, product recommendations, news articles, and other content, due to the well-documented phenomenon that humans pay greater attention to higher-ranked items. As a result, optimization in content presentation for diversity, user coverage, calibration, or other objectives more accurately represents a sequence selection problem, to which traditional submodularity approximation results no longer apply. Although extensions of submodularity to sequences have been proposed, none is designed to model settings where items contribute based on their position in a ranked list, and hence they are not able to express these types of optimization problems. In this paper, we aim to address this modeling gap. Here, we propose a new formalism of ordered submodularity that captures these ordering problems in content presentation, and more generally a category of optimization problems over ranked sequences in which different list positions contribute differently to the objective function. We analyze the natural ordered analogue of the greedy algorithm and show that it provides a $2$-approximation. We also show that this bound is tight, establishing that our new framework is conceptually and quantitatively distinct from previous formalisms of set and sequence submodularity.

研究动机与目标

• 填补次模优化在物品顺序显著影响价值的问题中的空白，例如在排序内容推荐中的应用。
• 通过考虑位置效应的形式化框架，建模现实世界中用户行为在内容呈现中的表现，即更高排名的项目会获得更多的关注。
• 提出一类新函数——有序次模函数，将次模性推广至序列场景，同时保持近似保证。
• 为序列选择问题中的贪心优化提供理论性能界，尤其针对推荐系统中的覆盖度与校准性。
• 建立一个正式框架，支持多样化、高质量排序推荐的近似算法，其中传统次模性因排序依赖性而失效。

提出的方法

• 提出有序次模性作为捕捉序列中递减收益的形式化框架，其中排名列表中每个位置对目标函数的贡献不同。
• 定义一种序列选择的贪心算法，通过迭代在每个位置添加边际增益最高的项目，同时尊重有序结构。
• 将目标函数形式化为特定位置上项目贡献的总和，其增益取决于项目本身及其在列表中的排名。
• 引入基于凹函数（如 $ f(x) = x^\alpha $）的重叠度量，以建模校准性，确保有序次模性，并支持在推荐系统中的实际应用。
• 证明贪心算法对所有有序次模函数均可实现2-近似，采用专为序列结构设计的新颖分析方法。
• 通过构造覆盖问题的一个实例，证明该2-近似界是紧致的，从而将本框架与以往的集合与序列次模性形式化区分开来。

实验结果

研究问题

• RQ1 能否开发一种形式化框架，将次模优化扩展至物品位置影响价值的序列选择问题？
• RQ2 在新形式化下，贪心算法是否能为有序序列上的优化提供常数因子近似保证？
• RQ3 有序次模最大化中的2-近似界是否紧致？与现有次模框架相比有何差异？
• RQ4 新形式化能否建模实际推荐问题，如排序列表中的多样性（覆盖度）与校准性（与用户偏好的重叠）？
• RQ5 在有序次模框架下，能否联合优化质量与校准性，同时保持近似保证？

主要发现

• 所提出的有序次模性框架成功建模了物品在排序列表中的位置影响价值的优化问题，例如在内容推荐中的应用。
• 有序次模最大化所用的贪心算法可实现2-近似，且该界是紧致的，通过构造的覆盖问题实例得到验证。
• 该框架通过引入与位置相关的贡献，将次模性推广至序列场景，从而在排序与多样化任务中实现了新的近似保证。
• 基于重叠度量（如 $ G(p,q) = \sum_{x\in\Omega} p(x)^{1-\alpha} q(x)^\alpha $）的广泛校准启发式方法被证明具有有序次模性，支持其在推荐系统中的实际应用。
• 通过加权和组合质量与校准性度量，可保持有序次模性，从而对混合目标仍能保持相同的2-近似保证。
• 实验结果表明，贪心算法在校准问题上表现接近最优，尽管理论上的近似因子2在最坏情况下仍为紧致。