[論文レビュー] The Artificial Regression Market

Nathan Lay, Adrian Barbu|arXiv (Cornell University)|Apr 18, 2012

Sports Analytics and Performance参考文献 8被引用数 4

ひとこと要約

本稿では、誤差に基づいて予測を動的に更新するための報酬カーネルを用いることで、分類から回帰へと人工予測市場を一般化する新しい機械学習フレームワーク「回帰市場（Regression Market）」を提案する。報酬カーネルを用いて予測の精度を動的に調整する手法として、デルタ更新とガウス更新の2つの学習ルールを提案。UCIおよびLIAADデータセットにおいて、特に浅い木の葉の部分の組み合わせにおいて、ランダムフォレストを上回る性能を示した。

ABSTRACT

The Artificial Prediction Market is a recent machine learning technique for multi-class classification, inspired from the financial markets. It involves a number of trained market participants that bet on the possible outcomes and are rewarded if they predict correctly. This paper generalizes the scope of the Artificial Prediction Markets to regression, where there are uncountably many possible outcomes and the error is usually the MSE. For that, we introduce the reward kernel that rewards each participant based on its prediction error and we derive the price equations. Using two reward kernels we obtain two different learning rules, one of which is approximated using Hermite-Gauss quadrature. The market setting makes it easy to aggregate specialized regressors that only predict when an observation falls into their specialization domain. Experiments show that regression markets based on the two learning rules outperform Random Forest Regression on many UCI datasets and are rarely outperformed.

研究の動機と目的

• 離散的分類から連続的回帰へと人工予測市場を一般化し、非可算な多数の結果を扱えるようにすること。
• 従来の離散的契約が適用できない市場的枠組みにおいて、連続的応答変数をモデル化する課題に取り組むこと。
• 予測の正確性を定量化し、回帰市場における学習を導く報酬カーネル機構を開発すること。
• 特定の入力領域でのみ予測を行う特殊化された回帰器の有効な統合を可能にすること。
• 提案された回帰市場が、ランダムフォレスト回帰などの標準的手法を上回る実験的優位性を示すこと。

提案手法

• 真の値 $y$ が与えられたもとで予測 $t$ の報酬を定量化する報酬カーネル $K(t; y)$ を導入。離散的契約支払いの代わりに、連続的な誤差に基づく報酬を導入する。
• 予測の条件付き密度 $c(y|\mathbf{x})$ の価格式を導出し、予算保存則を満たし、確率的解釈と整合性を持つようにする。
• 2つの学習ルールを提案：1つはデルタ関数に基づく更新、もう1つはガウス報酬カーネルを用いた更新。後者はヘルミート＝ガウス求積法を用いて近似される。
• 市場均衡条件 $c(y|\mathbf{x}) = \sum_{m=1}^{M} \beta_m \phi_m(y|\mathbf{x}, \mathbf{c})$ を用いて、個々の回帰器の出力の重み付き平均として予測をモデル化する。
• 浅い決定木の葉から得られる予測を統合するために、市場フレームワークを適用。より正確な葉に高い重みを割り当てる。
• 最終予測は、均衡価格関数から導かれる期待値 $y = \int t \cdot c(t|\mathbf{x}) dt$ として、線形統合メカニズムにより得られる。

実験結果

リサーチクエスチョン

• RQ1 人工予測市場を離散的分類から連続的出力を持つ回帰へ一般化できるか？
• RQ2 回帰設定において、連続的かつ誤差に基づくフィードバックを提供する報酬カーネルをどのように設計できるか？
• RQ3 回帰市場における収束性と正確性を保証する数学的性質および学習ルールは何か？
• RQ4 特定の入力領域でのみ予測を行う特殊化された回帰器を、市場フレームワークが効果的に統合できるか？
• RQ5 実世界のデータセットにおいて、回帰市場の性能はランダムフォレスト回帰などの既存手法を上回るか？

主な発見

• デルタ更新を用いた回帰市場（DM）は、16個のUCIおよびLIAADデータセットのうち11個で平均二乗誤差（MSE）においてランダムフォレスト（RF）を顕著に上回った。
• ガウス更新市場（GM）は14のデータセットでRFを上回り、わずか2つのデータセットでのみ顕著に悪い性能を示した。これは過学習やカーネルチューニングの不適切さに起因するとされた。
• friedman1データセットでは、DMのMSEは4.701、RFのMSEは5.076であり、7.3%の改善が達成された。
• auto-mpgデータセットでは、DMのMSEは7.817で、RFの8.248を大きく上回り、5.2%の改善が得られた。
• 深さ5の木の葉の市場ベース統合は、単純な投票より優れた性能を示し、重み付き統合の価値を実証した。
• 高速化解析の結果、深さ5の木は深さ10の木の1.8〜3.3倍高速であり、計算コストを低く抑えながらも高い精度を維持した。