[论文解读] Finish Them!: Pricing Algorithms for Human Computation

Yihan Gao, Aditya Parameswaran|arXiv (Cornell University)|Aug 27, 2014

Mobile Crowdsensing and Crowdsourcing参考文献 31被引用 8

一句话总结

本文提出了一种用于众包平台中人类计算任务的动态定价算法，采用马尔可夫决策过程（MDPs）和线性规划，在固定截止时间下最小化成本，或在固定预算下最小化延迟。与静态定价策略相比，该方法可将成本降低高达30%，且对估计误差具有鲁棒性。

ABSTRACT

Given a batch of human computation tasks, a commonly ignored aspect is how the price (i.e., the reward paid to human workers) of these tasks must be set or varied in order to meet latency or cost constraints. Often, the price is set up-front and not modified, leading to either a much higher monetary cost than needed (if the price is set too high), or to a much larger latency than expected (if the price is set too low). Leveraging a pricing model from prior work, we develop algorithms to optimally set and then vary price over time in order to meet a (a) user-specified deadline while minimizing total monetary cost (b) user-specified monetary budget constraint while minimizing total elapsed time. We leverage techniques from decision theory (specifically, Markov Decision Processes) for both these problems, and demonstrate that our techniques lead to upto 30\% reduction in cost over schemes proposed in prior work. Furthermore, we develop techniques to speed-up the computation, enabling users to leverage the price setting algorithms on-the-fly.

研究动机与目标

• 解决人类计算中系统性定价策略的缺乏问题，以在众包工作流中平衡成本与延迟。
• 开发能够随时间动态调整任务价格的算法，以满足用户指定的截止时间，同时最小化总货币成本。
• 设计在固定货币预算约束下最小化总完成时间的定价策略。
• 确保计算效率，使定价决策能够在任务执行过程中实时做出。
• 评估算法在市场动态和任务参数估计不准确情况下的鲁棒性。

提出的方法

• 将任务定价形式化为马尔可夫决策过程（MDP），以在固定截止时间内最小化成本，将任务完成率建模为非齐次泊松过程。
• 使用决策理论技术计算最优价格轨迹，以适应实时的任务领取速率和剩余时间。
• 应用线性规划求解在固定预算约束下最小化延迟的对偶问题，假设已知任务完成动态。
• 实施计算优化，如状态聚合和价值函数近似，以降低基于MDP的定价决策的复杂度。
• 利用先前研究中通过非齐次泊松过程对任务完成延迟的建模，以指导价格响应动态。
• 引入加速技术，包括非可行价格路径的剪枝和增量重新计算，以实现实时定价调整。

实验结果

研究问题

• RQ1 在时间敏感的人类计算工作负载中，随时间动态调整价格能否在满足严格截止时间的前提下降低货币成本？
• RQ2 在现实市场工作负载中，动态定价与静态定价在成本和延迟方面相比如何？
• RQ3 在固定货币预算下，能否优化定价策略以最小化总任务完成时间？
• RQ4 所提出的定价算法对任务完成率和市场动态估计不准确的鲁棒性如何？
• RQ5 为实现实时部署在生产级众包系统中，需要哪些计算优化？

主要发现

• 所提出的基于MDP的动态定价算法在真实众包数据上，与以往静态定价方案相比，总成本最高可降低30%。
• 该算法显著优于先前工作中基于二分搜索的定价基线策略，尤其在高风险、时间敏感的工作负载中表现更优。
• 在预算约束场景下，基于线性规划的方法实现了接近最优的延迟减少，证明了即使在成本上限下，动态定价依然有效。
• 算法对任务完成率和市场参数估计误差具有鲁棒性，在不同不确定性水平下均保持优异性能。
• 计算优化使实时定价决策成为可能，使系统适用于在实际众包平台中部署。
• 在真实市场上的实际实验验证了仿真结果，证实了动态定价的实际可行性与成本节约效果。