[論文レビュー] Machine Learning Markets

Amos Storkey|arXiv (Cornell University)|Jun 22, 2011

Sports Analytics and Performance参考文献 16被引用数 27

ひとこと要約

本稿では、機械学習市場を確率的推論およびモデル結合のフレームワークとして導入し、利益志向の信念を持つエージェントが予測市場で取引することで、ベイジアン事後分布に対応する均衡価格に到達することを示す。市場のダイナミクスが、エージェントの利益関数を変化させることで、混合モデル、積モデル、メッセージスティングシステムといった標準的な機械学習モデルを自然に実装できることを示しており、価格と位置の伝播により並列的かつスケーラブルな推論を実現する。

ABSTRACT

Prediction markets show considerable promise for developing flexible mechanisms for machine learning. Here, machine learning markets for multivariate systems are defined, and a utility-based framework is established for their analysis. This differs from the usual approach of defining static betting functions. It is shown that such markets can implement model combination methods used in machine learning, such as product of expert and mixture of expert approaches as equilibrium pricing models, by varying agent utility functions. They can also implement models composed of local potentials, and message passing methods. Prediction markets also allow for more flexible combinations, by combining multiple different utility functions. Conversely, the market mechanisms implement inference in the relevant probabilistic models. This means that market mechanism can be utilized for implementing parallelized model building and inference for probabilistic modelling.

研究の動機と目的

• 予測市場を用いた柔軟で利益志向のフレームワークを構築し、複雑な確率的モデルの表現と推論を可能にする。
• 標準的なモデル結合手法（例：エキスパートの混合、エキスパートの積）が、市場均衡におけるエージェントの利益関数によって自然に実装可能であることを示す。
• 市場ダイナミクスが、因子グラフや局所的ポテンシャルモデルにおける確率的推論、特にメッセージスティングアルゴリズムに対応することを確立する。
• エージェントを独立した実体としてモデル化し、特定の商品のサブセットでの取引を制限することで、価格が結合的信念を反映するようにすることで、スケーラブルかつ並列的な推論を実現する。
• 異なる信念と利益関数を持つ多様なエージェントが、システム全体の構造を変更せずに共存できることを示す。

提案手法

• エージェントは、多次元の結果についての主観的確率的信念と、凹型の利益関数を持つ合理的な取引者としてモデル化される。
• 価格はアービタージュのない前提のもとでの均衡条件から導出され、事後確率として解釈される。
• 各エージェントの期待利益は、指数的減衰を用いて定式化され、市場コストと保有株式数に依存する。
• 最適な保有株式数（sik）は、期待利益を最大化することで導出され、周辺的信念と局所的クライクメッセージに依存する閉形式の式が得られる。
• 繰り返しの価格更新からメッセージスティングダイナミクスが生じる：各商品の価格は、エージェントが局所的クライク上で計算する集約メッセージ（Aik）に依存する。
• 均衡条件は、エージェント固有のメッセージと周辺的信念の重み付き幾何平均として価格を導出し、凹型利益関数のもとで収束を保証する。

実験結果

リサーチクエスチョン

• RQ1 機械学習市場が、エージェントの利益関数を用いて、エキスパートの混合やエキスパートの積といった標準的なモデル結合技術を実装できるか。
• RQ2 因子グラフのようなグラフィカルモデルにおける市場ダイナミクスが、確率的推論に対応することをどのように示せるか。
• RQ3 確率的モデルにおけるメッセージスティングアルゴリズムを、予測市場における情報伝播として再解釈できる範囲はどの程度か。
• RQ4 ニッチな信念と異なる利益関数を持つ多様なエージェントが、システム全体の構造を変更せずに市場に共存できるか。
• RQ5 市場メカニズムが、取引商品の数を管理可能なサブセットに制限することで、スケーラブルかつ並列的な推論をどのようにサポートできるか。

主な発見

• 市場の均衡価格は確率的モデルにおける事後確率に対応し、取引結果に直接的な確率的解釈を可能にする。
• 異なるモデル結合手法（例：混合、積、因子モデル）が、市場メカニズムを変更せずにエージェントの利益関数を変化させることで自然に実現される。
• システムはメッセージスティング推論をサポートする：価格と保有株式数が、信念伝播に類似した形で情報を伝播させ、メッセージは局所的クライク上で計算される。
• 価格の均衡条件は、エージェント固有のメッセージと周辺的信念の重み付き幾何平均として導出され、凹型利益関数のもとで収束を保証する。
• 市場を関連する商品のサブセットに制限することで、スケーラブルかつ並列的な推論が可能となり、ダイナミクスは局所的メッセージ更新と同等である。
• 本アプローチにより、異なる信念と利益関数を持つ多様なエージェントが共存でき、アーキテクチャの変更なしに柔軟かつ拡張可能なモデル構成が可能になる。