[论文解读] Actively Learning Hemimetrics with Applications to Eliciting User Preferences

Adish Singla, Sebastian Tschiatschek+1 more|arXiv (Cornell University)|May 23, 2016

Machine Learning and Algorithms参考文献 18被引用 7

一句话总结

该论文提出了一种主动学习算法 LearnHM，通过利用双射多面体的结构约束，高效学习非对称半度量距离（表示用户切换成本）。在聚类设置下，该方法将样本复杂度从 Θ(n²) 降低至 O(nK)，实现了可证明最优的查询效率，同时支持在线和噪声环境。

ABSTRACT

Motivated by an application of eliciting users' preferences, we investigate the problem of learning hemimetrics, i.e., pairwise distances among a set of $n$ items that satisfy triangle inequalities and non-negativity constraints. In our application, the (asymmetric) distances quantify private costs a user incurs when substituting one item by another. We aim to learn these distances (costs) by asking the users whether they are willing to switch from one item to another for a given incentive offer. Without exploiting structural constraints of the hemimetric polytope, learning the distances between each pair of items requires $Θ(n^2)$ queries. We propose an active learning algorithm that substantially reduces this sample complexity by exploiting the structural constraints on the version space of hemimetrics. Our proposed algorithm achieves provably-optimal sample complexity for various instances of the task. For example, when the items are embedded into $K$ tight clusters, the sample complexity of our algorithm reduces to $O(n K)$. Extensive experiments on a restaurant recommendation data set support the conclusions of our theoretical analysis.

研究动机与目标

• 解决推荐系统中高效学习非对称用户偏好距离（半度量）的挑战。
• 通过利用半度量多面体的结构约束，将成对距离学习的样本复杂度从 Θ(n²) 降低。
• 设计一种主动学习框架，利用二元反馈查询推断用户切换成本，同时最小化交互次数。
• 将该方法扩展至在线和噪声环境，以反映现实世界中的部署约束。
• 为各种问题实例提供样本复杂度和所学边界的最优性理论保证。

提出的方法

• 将问题表述为学习满足非负性和三角不等式约束的半度量 D*。
• 使用二元查询：给定项目 i,j 和激励 c，若 c ≥ D*i,j，用户将作出肯定响应，从而实现主动学习。
• 维护未知半度量的下界 L^t 和上界 U^t，并通过投影操作迭代优化。
• 应用 L-Proj 和 U-Proj 算法，计算满足半度量约束的最优下界和上界矩阵。
• 利用半度量多面体的结构，避免查询全部 n² 对，仅聚焦于信息量高的查询。
• 通过反证法证明边界的最优性，表明 L^t 和 U^t 是相应约束优化问题的唯一解。

实验结果

研究问题

• RQ1 能否通过利用结构约束，将学习半度量距离的样本复杂度降低至 Θ(n²) 以下？
• RQ2 当项目被组织为 K 个紧密聚类时，学习半度量的理论样本复杂度是多少？
• RQ3 如何设计一种主动学习算法，使其在非对称、非度量距离约束下仍保持最优查询效率？
• RQ4 所提出的方法能否扩展至项目按顺序到达的在线设置？
• RQ5 该算法在真实世界部署中对用户响应噪声的鲁棒性如何？

主要发现

• 当项目被组织为 K 个紧密聚类时，所提出的 LearnHM 算法实现了 O(nK) 的样本复杂度，显著低于朴素的 Θ(n²) 上限。
• 理论分析证明，LU-Proj 返回的下界矩阵 L^t 和上界矩阵 U^t 是其各自约束优化问题的唯一最优解。
• 该算法在各种自然问题实例（包括聚类和一般半度量设置）中均保持可证明最优的样本复杂度。
• 在餐厅推荐数据集上的实证评估验证了理论优势，实际中显著减少了查询需求。
• 该方法可自然扩展至在线和噪声环境，在真实用户反馈条件下仍保持高效性和正确性。