[論文レビュー] Combining Expert Advice Efficiently

Wouter M. Koolen, Steven de Rooij|ArXiv.org|Feb 14, 2008

Machine Learning and Algorithms参考文献 12被引用数 10

ひとこと要約

本稿では、時間変動する専門家重みをモデル化するための隠れマルコフモデル（HMM）を用いて、専門家の予測を統合する包括的なフレームワークを提案する。標準的なHMMアルゴリズムを用いることで、最適な混合予測の計算が効率的に行える。2つの新しいモデル—スイッチ分布とランレングスモデル—を導入し、それぞれ線形および2次時間計算量を達成する。損失バウンドの結果は、異なるスイッチング状態下で優れた性能を示す。

ABSTRACT

We show how models for prediction with expert advice can be defined concisely and clearly using hidden Markov models (HMMs); standard HMM algorithms can then be used to efficiently calculate, among other things, how the expert predictions should be weighted according to the model. We cast many existing models as HMMs and recover the best known running times in each case. We also describe two new models: the switch distribution, which was recently developed to improve Bayesian/Minimum Description Length model selection, and a new generalisation of the fixed share algorithm based on run-length coding. We give loss bounds for all models and shed new light on their relationships.

研究の動機と目的

• 時間変動する専門家パフォーマンスの下で、既存の専門家予測統合モデルを統一的かつ一般化すること。
• 従来のベイジアン混合モデルが時間経過に伴い複数の専門家を効果的に統合できない計算上の非効率性を解消すること。
• 沈黙状態を備えたHMMを用いて、動的専門家重みを原理的かつ効率的に計算する手法を開発すること。
• 専門家統合のための2つの新しいパラメータフリーなモデル—スイッチ分布とランレングスモデル—を導入し、その分析を行うこと。
• 既存および新規のすべてのモデルについて、損失バウンドと計算効率の保証を提供すること。

提案手法

• 専門家系列の事前分布（ES-prior）をHMMとしてモデル化し、隠れ状態が専門家の識別を表し、遷移確率が専門家関連性の時間的変化を記述する。
• 標準的なHMMアルゴリズム（前方・後方、ビタビ、 Baum-Welch）を用いて効率的な推論を実現し、専門家系列の周辺化も可能にする。
• データと専門家系列の同時分布を、HMMに基づくES-_priorと個々の専門家予測モデルの積として表現する。
• スイッチ分布を、専門家間のスイッチ確率を捉える小さなHMMとして定義し、線形時間評価を可能にする。
• ランレングスモデルを、一貫した専門家パフォーマンス期間をランレングス符号化でモデル化する新規なES-priorとして導入する。
• 前方アルゴリズムを用いて、各時刻における予測分布と事後専門家重みを計算し、データ駆動型の混合予測の適応を可能にする。

実験結果

リサーチクエスチョン

• RQ1 時間変動する専門家関連性を捉えることができる、包括的かつ効率的なフレームワークを用いて、専門家予測モデルを統合する方法は何か？
• RQ2 HMMを用いた専門家統合モデルの評価における計算量は何か？ また、既存手法と比較してどうなるか？
• RQ3 スイッチ分布とランレングスモデルという2つの新規モデルは、異なるスイッチングパターン下で損失バウンドにおいてどのように性能を発揮するか？
• RQ4 HMMに基づくES-priorは、過去のパフォーマンスと時間的相関を反映した事後専門家重みを計算するために使用可能か？
• RQ5 計算コストと予測精度の観点から、スイッチ分布とランレングスモデルの間にはどのようなトレードオフがあるか？

主な発見

• HMMに基づくES-priorフレームワークにより、標準的なHMMアルゴリズムを用いて専門家混合重みの計算が効率的に行える。実行時間はHMM表現のサイズに比例する。
• スイッチ分布モデルは、小さなHMMとして表現可能であり、線形時間評価が可能で、低スイッチング状態下では固定共有モデルを上回る損失バウンドを達成する。
• ランレングスモデルはランレングス符号化に基づくもので、2次時間計算量を達成し、スイッチ数がΩ((log n)²)に達するような状況ではスイッチ分布を上回ることが示された。
• 固定共有やユニバーサル混合モデルといった既存モデルの最良実行時間は、それらをHMMとして再定式化することで再現された。
• 前方および後方アルゴリズムを用いて計算された事後専門家重みは、単一専門家の選択よりも洗練された時間分解能を持つ混合表現を提供し、事後状態確率を用いたデータ分析を可能にする。
• 正確なMAP系列計算が一般のHMMでは計算不能であるのに対し、事後状態確率に基づくMAP推定の代替手法により、時間経過に伴う専門家関連性の理解が可能になる。