[论文解读] Machine Learning Markets

Amos Storkey|arXiv (Cornell University)|Jun 22, 2011

Sports Analytics and Performance参考文献 16被引用 27

一句话总结

本文提出机器学习市场作为一种概率推理与模型组合的框架，其中基于效用的代理在预测市场中交易，以达到对应于贝叶斯后验的均衡价格。研究表明，通过改变代理的效用函数，市场动态可自然实现标准机器学习模型（如混合模型、乘积模型及消息传递系统），并通过价格与持仓传播实现并行、可扩展的推理。

ABSTRACT

Prediction markets show considerable promise for developing flexible mechanisms for machine learning. Here, machine learning markets for multivariate systems are defined, and a utility-based framework is established for their analysis. This differs from the usual approach of defining static betting functions. It is shown that such markets can implement model combination methods used in machine learning, such as product of expert and mixture of expert approaches as equilibrium pricing models, by varying agent utility functions. They can also implement models composed of local potentials, and message passing methods. Prediction markets also allow for more flexible combinations, by combining multiple different utility functions. Conversely, the market mechanisms implement inference in the relevant probabilistic models. This means that market mechanism can be utilized for implementing parallelized model building and inference for probabilistic modelling.

研究动机与目标

• 开发一种灵活的、基于效用的机器学习框架，利用预测市场表示和推断复杂概率模型。
• 证明标准模型组合方法（如专家混合、专家乘积）可通过市场均衡中的代理效用函数自然实现。
• 建立市场动态与因子图及局部势模型中概率推理（特别是消息传递算法）之间的对应关系。
• 通过将代理建模为在部分商品上自主交易的实体，使价格反映联合信念，实现可扩展的并行推理。
• 证明市场机制支持具有不同信念和效用函数的异构代理，实现无需架构变更的灵活、可扩展的模型组合。

提出的方法

• 代理被建模为具有凹效用函数和对多变量结果的主观概率信念的理性交易者。
• 在无套利假设下，通过均衡条件推导出市场价格，解释为后验概率。
• 每个代理的期望效用使用指数衰减形式表示，取决于市场成本和持仓量。
• 通过最大化期望效用推导出最优持仓量（sik），得到涉及边际信念和局部团消息的闭式表达式。
• 消息传递动态源于迭代价格更新：每种商品的价格取决于来自代理的聚合消息（Aik），这些消息在局部团上计算。
• 均衡条件将价格与代理特定消息和信念的几何平均联系起来，实现分布式、并行推理。

实验结果

研究问题

• RQ1 机器学习市场能否通过代理效用函数实现混合专家和专家乘积等标准模型组合技术？
• RQ2 如何证明市场动态与因子图等图模型中的概率推理相对应？
• RQ3 概率模型中的消息传递算法在多大程度上可重新解释为预测市场中的信息传播？
• RQ4 具有特定信念和不同效用函数的异构代理能否在不改变整体系统结构的情况下共存于市场中？
• RQ5 市场机制如何通过将交易商品数量限制在可管理的子集内，支持可扩展的并行推理？

主要发现

• 市场均衡价格对应于概率模型中的后验概率，使交易结果可直接进行概率解释。
• 通过改变代理效用函数，可自然产生不同的模型组合方法（如混合、乘积、因子模型），而无需修改市场机制。
• 该系统支持消息传递推理：价格与持仓量传播信息，类似于信念传播，消息在局部团上计算。
• 价格的均衡条件被推导为代理特定消息与边际信念的加权几何平均，确保在凹效用下的收敛性。
• 通过将市场限制在相关商品的子集内，该框架实现了可扩展的并行推理，其动态等价于局部消息更新。
• 该方法允许具有不同信念和效用函数的异构代理共存，实现无需架构变更的灵活、可扩展的模型组合。