[论文解读] Learning Valuation Functions

Maria Florina Balcan, Florin Constantin+2 more|arXiv (Cornell University)|Aug 29, 2011

Machine Learning and Algorithms参考文献 25被引用 12

一句话总结

本文研究了微观经济学与博弈论中估值函数的近似可学习性，重点关注 XOS、次可加和次模估值等类别。在 PMAC 模型中，建立了 XOS 和次可加函数的近乎紧致的 $\tilde{\Theta}(n^{1/2})$ 边界，同时表明具有多项式复杂度的 XOS 函数可在 $n^{O(1/\varepsilon)}$ 时间内实现 $O(n^\varepsilon)$ 近似。

ABSTRACT

In this paper we study the approximate learnability of valuations commonly used throughout economics and game theory for the quantitative encoding of agent preferences. We provide upper and lower bounds regarding the learnability of important subclasses of valuation functions that express no-complementarities. Our main results concern their approximate learnability in the distributional learning (PAC-style) setting. We provide nearly tight lower and upper bounds of $ ildeΘ(n^{1/2})$ on the approximation factor for learning XOS and subadditive valuations, both widely studied superclasses of submodular valuations. Interestingly, we show that the $ ildeΩ(n^{1/2})$ lower bound can be circumvented for XOS functions of polynomial complexity; we provide an algorithm for learning the class of XOS valuations with a representation of polynomial size achieving an $O(n^{\eps})$ approximation factor in time $O(n^{1/\eps})$ for any $\eps > 0$. This highlights the importance of considering the complexity of the target function for polynomial time learning. We also provide new learning results for interesting subclasses of submodular functions. Our upper bounds for distributional learning leverage novel structural results for all these valuation classes. We show that many of these results provide new learnability results in the Goemans et al. model (SODA 2009) of approximate learning everywhere via value queries. We also introduce a new model that is more realistic in economic settings, in which the learner can set prices and observe purchase decisions at these prices rather than observing the valuation function directly. In this model, most of our upper bounds continue to hold despite the fact that the learner receives less information (both for learning in the distributional setting and with value queries), while our lower bounds naturally extend.

研究动机与目标

• 研究在分布式（PAC 风格）学习模型下估值函数的可学习性，特别是针对次模函数之外的类别。
• 为学习 XOS 和次可加估值函数建立紧致的近似边界，这些函数是次模函数的推广。
• 探索在更现实的经济模型下的可学习性，其中仅能观察到在设定价格下的购买决策，而非直接的估值。
• 为诸如替代品和 OXS 估值等子类提供结构洞见与算法。
• 弥合理论学习结果与涉及定价和观察购买行为的实际经济场景之间的差距。

提出的方法

• 采用 PMAC（可能近似正确）学习模型进行分布式学习，学习者从未知的捆绑包分布中接收独立同分布样本，目标是学习目标估值函数的乘法近似。
• 应用估值类别上的新颖结构结果，推导出可学习性与困难性边界，尤其针对 XOS 和次可加函数。
• 引入一种新模型，学习者设定价格并观察购买决策（购买/不购买），以模拟现实世界中的经济数据收集。
• 通过使用分隔器，将购买决策模型转化为二分类问题，证明购买数据中的低误差意味着估值近似中的低误差。
• 设计算法，使具有多项式大小表示的 XOS 函数可在任意 $\varepsilon > 0$ 下实现 $O(n^\varepsilon)$ 近似，时间复杂度为 $n^{O(1/\varepsilon)}$，从而规避 $\tilde{\Omega}(n^{1/2})$ 下界。
• 利用价值查询（VQ）模型通过直接估值反馈学习函数，并通过价格设定实验模拟查询，将结果扩展到基于定价的观测模型。

实验结果

研究问题

• RQ1 在 PMAC 模型中，学习 XOS 和次可加估值函数的最优近似因子是什么？
• RQ2 在额外的结构假设下，是否可以克服 XOS 和次可加函数在近似上的 $\tilde{\Omega}(n^{1/2})$ 下界？
• RQ3 当仅能观察到设定价格下的购买决策而非直接估值时，估值类别的可学习性如何变化？
• RQ4 在分布式和价值查询模型中，替代品和 OXS 估值等子类的可学习性特征是什么？
• RQ5 能否为具有多项式有界表示复杂度的 XOS 函数设计高效学习算法？

主要发现

• 本文在 PMAC 模型中为学习 XOS 和次可加估值函数建立了近乎紧致的 $\tilde{\Theta}(n^{1/2})$ 近似因子边界。
• 对于具有多项式大小表示的 XOS 函数，所设计的算法可在任意 $\varepsilon > 0$ 下实现 $O(n^\varepsilon)$ 近似，时间复杂度为 $n^{O(1/\varepsilon)}$，从而规避了 $\tilde{\Omega}(n^{1/2})$ 下界。
• 具有最多 $R$ 棵树或每棵树最多 $R$ 个叶子的 OXS 估值类在 VQ 模型中可实现 $2R$ 近似因子内的可学习性。
• 对于具有有界树或叶子数量的 XOS 估值，同样成立，表明在结构约束下具有可学习性。
• 在仅观察购买决策的基于定价的模型中，可学习性的上界仍然成立，而下界自然得以扩展。
• 估值类别的结构结果使在 Goemans 等人价值查询模型中获得新的可学习性结果，扩展了先前对次模函数的研究。