[论文解读] Learning Combinatorial Functions from Pairwise Comparisons

Maria-Florina Balcan, Ellen Vitercik+1 more|arXiv (Cornell University)|May 30, 2016

Machine Learning and Algorithms参考文献 13被引用 5

一句话总结

本文提出了一种新颖的学习框架，仅通过相对偏好查询即可实现对组合函数（如子模、XOS、次可加、覆盖和傅里叶稀疏函数）的高效推理，且仅需成对比较。该框架证明了这些函数可通过具有可证明分离因子的比较器学习，实现最优或近似最优的样本复杂度与运行时间，尤其在存在低曲率或傅里叶稀疏支持等结构性质时表现更优。

ABSTRACT

A large body of work in machine learning has focused on the problem of learning a close approximation to an underlying combinatorial function, given a small set of labeled examples. However, for real-valued functions, cardinal labels might not be accessible, or it may be difficult for an expert to consistently assign real-valued labels over the entire set of examples. For instance, it is notoriously hard for consumers to reliably assign values to bundles of merchandise. Instead, it might be much easier for a consumer to report which of two bundles she likes better. With this motivation in mind, we consider an alternative learning model, wherein the algorithm must learn the underlying function up to pairwise comparisons, from pairwise comparisons. In this model, we present a series of novel algorithms that learn over a wide variety of combinatorial function classes. These range from graph functions to broad classes of valuation functions that are fundamentally important in microeconomic theory, the analysis of social networks, and machine learning, such as coverage, submodular, XOS, and subadditive functions, as well as functions with sparse Fourier support.

研究动机与目标

• 解决在人类专家难以或无法提供基数标签（实值估值）时学习组合函数的挑战。
• 开发一种基于成对比较的学习模型，目标是预测两个集合中哪一个函数值更高，而非估计精确值。
• 建立通用的算法框架，可对多种组合函数类进行比较器学习，并在样本复杂度与误差方面提供可证明的保证。
• 刻画此类学习在何种条件下可行，特别是函数值之间的乘法或加法分离因子。
• 探讨结构性质（如曲率、SUM 树数量或傅里叶域中的稀疏性）对所提框架可学习性与效率的影响。

提出的方法

• 本文定义了一个类似于 PAC 学习的比较器可学习性模型，要求算法在输入分布上以高概率正确预测两个集合之间的比较结果。
• 提出一种通用的算法框架，利用先前工作中关于函数通过线性函数的幂次进行乘法近似的成果。
• 对于傅里叶支持稀疏的函数，该方法使用傅里叶分析与多项式时间算法，从少量成对查询中重建比较器函数。
• 对于子模函数与 XOS 函数，该方法依赖曲率分析，并通过将其结构分解为线性分量来界定所需分离因子的上界。
• 在加法误差设定下，该方法假设分布为均匀分布，并利用 XOS 与单调子模函数的谱特性，实现有界误差。
• 该框架整合了高效的经验风险最小化预言机，尤其在覆盖函数中可显著降低样本复杂度。

实验结果

研究问题

• RQ1 当仅能获得成对比较反馈而非完整基数标签时，能否有效学习组合函数？
• RQ2 在不同函数类中，实现准确比较器学习所需的最小乘法或加法分离因子是多少？
• RQ3 结构性质（如子模函数的曲率或傅里叶域中的稀疏性）如何影响比较器学习的样本复杂度与误差界？
• RQ4 该框架是否可在某些函数类中实现无分离因子（即完美比较预测）？若可，其条件为何？
• RQ5 比较器可学习子模函数的最紧可能分离因子是多少？其随问题规模如何变化？

主要发现

• 子模函数可通过乘法分离因子 $ O(\tilde{\theta}(\text{poly}(n))) $ 实现比较器学习，上界为 $ O(\tilde{\theta}(\text{poly}(n))) $，且存在几乎匹配的下界 $ \tilde{\theta}(n^{1/3}) $，表明接近最优的权衡。
• XOS 与次可加函数可通过分离因子 $ \tilde{\theta}(\tilde{\theta}(\text{poly}(n))) $ 实现比较器学习，且两者均需 $ \tilde{O}(n/\tilde{\theta}(\text{poly}(n))) $ 个样本。
• 对于曲率为 $ \tilde{\theta} $ 的子模函数，分离因子可提升至 $ O(\min\{\sqrt{n}, \frac{1}{1-\kappa}\}) $，当 $ \kappa \to 0 $ 时趋近于 1，表明对近乎可加函数可实现近乎完美的学习。
• 具有 $ R $ 个 SUM 树的 XOS 函数，其分离因子为 $ O(R^\xi) $（$ \xi > 0 $），样本复杂度为 $ \tilde{O}(n^{1/\xi}/\epsilon^3) $，表明结构稀疏性越高，性能越优。
• 傅里叶稀疏函数若最多有 $ k $ 个非零系数且其支撑集在 $ \mathcal{P} $ 内，则可实现无分离因子的比较器学习，使用 $ \tilde{O}(|\mathcal{P}|^k/\epsilon^2) $ 个样本与时间。
• 覆盖函数可通过乘法分离因子 $ 1+\epsilon $ 实现比较器学习，使用 $ \tilde{O}(n^3/\epsilon^5) $ 个查询，前提是可访问线性分隔器的 ERM 预言机。