[论文解读] Isoelastic Agents and Wealth Updates in Machine Learning Markets

Amos Storkey, Jono Millin+1 more|arXiv (Cornell University)|Jun 27, 2012

Complex Systems and Time Series Analysis参考文献 24被引用 12

一句话总结

该论文提出了一种基于isoelastic效用代理的机器学习框架，通过财富驱动的更新机制在预测市场中动态组合模型。通过根据代理的风险偏好和财富水平设计市场支付，该方法实现了贝叶斯模型更新和最优混合权重自适应，相较于基准任务中的随机森林和单分类器表现出更优性能，且优于对数效用方法的对应表现。

ABSTRACT

Recently, prediction markets have shown considerable promise for developing flexible mechanisms for machine learning. In this paper, agents with isoelastic utilities are considered. It is shown that the costs associated with homogeneous markets of agents with isoelastic utilities produce equilibrium prices corresponding to alpha-mixtures, with a particular form of mixing component relating to each agent's wealth. We also demonstrate that wealth accumulation for logarithmic and other isoelastic agents (through payoffs on prediction of training targets) can implement both Bayesian model updates and mixture weight updates by imposing different market payoff structures. An iterative algorithm is given for market equilibrium computation. We demonstrate that inhomogeneous markets of agents with isoelastic utilities outperform state of the art aggregate classifiers such as random forests, as well as single classifiers (neural networks, decision trees) on a number of machine learning benchmarks, and show that isoelastic combination methods are generally better than their logarithmic counterparts.

研究动机与目标

• 开发一种基于市场的机器学习模型组合框架，使用具有isoelastic效用函数的代理。
• 探讨通过预测收益积累财富如何实现贝叶斯模型更新与混合权重学习。
• 设计一种支付结构，使isoelastic代理能够根据表现和风险偏好动态调整模型权重。
• 评估异质性isoelastic代理市场相较于最先进的集成方法（如随机森林）的性能表现。
• 比较基于isoelastic与对数效用的组合方法在模型聚合中的有效性。

提出的方法

• 将具有isoelastic效用函数的代理建模为预测市场中的交易者，其风险规避程度由恒定相对风险规避（CRRA）系数参数化。
• 市场出清价格被表示为个体代理信念的alpha混合，混合权重由各代理的财富和风险偏好决定。
• 通过基于训练目标预测准确性的市场收益计算财富更新，模拟动态学习过程。
• 提出一种迭代算法以计算市场均衡，确保收敛至稳定预测价格。
• 施加不同的支付结构，以根据所需学习行为诱导贝叶斯模型更新或混合权重自适应。
• 该框架支持具有不同财富和风险偏好的异质代理，实现稳健且自适应的集成学习。

实验结果

研究问题

• RQ1 在预测市场中，isoelastic代理是否能通过财富积累有效实现贝叶斯模型更新？
• RQ2 不同的市场支付结构如何影响isoelastic代理在模型组合中的学习动态？
• RQ3 异质性isoelastic代理市场在多大程度上优于标准集成方法（如随机森林）？
• RQ4 效用函数的选择（isoelastic与对数效用）如何影响机器学习任务中模型组合的性能？
• RQ5 在市场环境中基于财富的更新能否实现组合预测模型的最优混合权重？

主要发现

• 异质性isoelastic代理市场在多个机器学习基准测试中优于最先进的集成分类器（如随机森林）。
• 通过设计反映训练目标预测准确性的市场支付结构，所提框架实现了有效的贝叶斯模型更新。
• 通过适当的评分规则积累财富，可实现混合权重的动态调整，从而支持自适应模型组合。
• 在预测准确率方面，isoelastic组合方法始终优于其对数效用基的对应方法。
• 市场均衡计算算法具有可靠的收敛性，支持该框架在真实学习任务中的实际部署。
• 理论分析证实，均衡价格对应于alpha混合，其组成部分按代理的财富和风险规避参数加权。