[论文解读] Bounded-Loss Private Prediction Markets

Rafael Frongillo, Bo Waggoner|arXiv (Cornell University)|Feb 9, 2017

Sports Analytics and Performance被引用 4

一句话总结

本文提出了首个具有有限财务损失的私有预测市场，实现了差分隐私、激励相容性，并将隐私保护噪声对预测的影响降至最低。通过引入交易费以消除由套利引起的损失，并采用自适应增长的市场结构，在参与者数量增加时仍能保持恒定预算，解决了先前私有市场机制中的关键局限。

ABSTRACT

Prior work has investigated variations of prediction markets that preserve participants' (differential) privacy, which formed the basis of useful mechanisms for purchasing data for machine learning objectives. Such markets required potentially unlimited financial subsidy, however, making them impractical. In this work, we design an adaptively-growing prediction market with a bounded financial subsidy, while achieving privacy, incentives to produce accurate predictions, and precision in the sense that market prices are not heavily impacted by the added privacy-preserving noise. We briefly discuss how our mechanism can extend to the data-purchasing setting, and its relationship to traditional learning algorithms.

研究动机与目标

• 解决差分隐私预测市场中无界财务责任的问题，该问题限制了其实际部署。
• 在确保参与者有激励报告准确预测的同时，保持差分隐私。
• 最小化隐私保护噪声对市场价格的影响，维持预测的精确性。
• 设计一种机制，即使参与者数量增长，也能保持有界最坏情况预算。
• 将私有市场机制扩展至机器学习中具有强理论保证的实际数据采购场景。

提出的方法

• 在Waggoner等人[15]的机制中引入一个微小且经过精心校准的交易费，以抵消隐私噪声带来的预期套利利润。
• 证明了该交易费可确保最坏情况下的损失以O((log T)²)增长，其中T为参与者数量。
• 采用类似“加倍技巧”的自适应市场增长方式，每个阶段使用新的市场实例，前期阶段的盈余用于补贴后期阶段。
• 应用基于核函数的成本函数和再生核希尔伯特空间（RKHS）方法，对具有非参数、灵活表示的预测市场进行建模。
• 利用凸分析和Bregman散度形式化市场更新，并将其与在线学习算法（如Follow-the-Regularized-Leader, FTRL）关联。
• 通过高斯过程边界分析噪声交易员的损失，表明由于输出空间Y有限，预期最大噪声影响仍保持有界。

实验结果

研究问题

• RQ1 私有预测市场能否同时实现差分隐私和有界最坏情况财务损失？
• RQ2 交易费能否在不破坏激励机制的前提下，消除由隐私保护噪声引发的套利机会？
• RQ3 是否可以设计一种自适应增长的市场，使其在扩展至任意数量参与者时仍能保持有界预算？
• RQ4 与非私有市场相比，隐私保护噪声对市场价格的影响在预测精度方面如何？
• RQ5 该市场机制能否扩展至参数化设置，如线性回归或非参数核模型？

主要发现

• 所提出的机制通过交易费实现了O((log T)²)的有界最坏情况财务损失，消除了隐私噪声带来的套利风险。
• 自适应增长的市场结构通过复用前期阶段的盈余，确保了总预算在T增加时仍保持恒定。
• 该机制保持了差分隐私、激励相容性，并将噪声对预测的影响降至最低，通过高斯过程分析表明预期最大噪声效应保持有界。
• 市场价格更新遵循核加权的FTRL算法，将市场动态与标准在线学习方法联系起来。
• 该框架可扩展至参数化模型（如线性回归），表明其在机器学习数据获取中的更广泛应用潜力。
• 理论分析证实，噪声交易员的损失保持有界，预期最大偏差随T的对数增长。