[論文レビュー] Aggregating Algorithm for Prediction of Packs

Dmitry Adamskiy, Anthony Bellotti+2 more|arXiv (Cornell University)|Oct 23, 2017

Advanced Bandit Algorithms Research参考文献 14被引用数 4

ひとこと要約

本稿では、結果がバッチ（パック）形式で到着する遅延フィードバックの文脈における、オンライン学習のための新規フレームワークである予測パックの集約アルゴリズム（AAP）を紹介する。各パックを1つの結果とみなしてヴォフクの集約アルゴリズムを適用することで、きついレグレットバウンドを達成し、特に変動するパックサイズや実世界の住宅価格予測において、ベースライン手法を上回る優れた経験的性能を示す。

ABSTRACT

This paper formulates the protocol for prediction of packs, which a special case of prediction under delayed feedback. Under this protocol, the learner must make a few predictions without seeing the outcomes and then the outcomes are revealed. We develop the theory of prediction with expert advice for packs. By applying Vovk's Aggregating Algorithm to this problem we obtain a number of algorithms with tight upper bounds. We carry out empirical experiments on housing data.

研究の動機と目的

• 遅延フィードバック、特に結果が逐次的ではなくバッチ（パック）形式で到着する文脈におけるオンライン予測の課題に取り組む。
• パックベースのフィードバックを想定した、専門家アドバイス付きの予測の理論的裏付けのあるフレームワークを構築すること。
• 実世界の応用例（例：住宅価格予測）において、きつい性能バウンドと安定した経験的結果を達成するアルゴリズムを設計すること。
• 提案されたAAPフレームワークを、Aggregating Algorithmの並列コピーやバッチ学習モデルを含む既存手法と比較すること。
• オンラインでの専門家結合が、歴史的データの時間的パターンを捉える際に、従来のバッチ学習を上回る可能性があるかどうかを評価すること。

提案手法

• 各パックの結果を1つの合成結果とみなすことにより、遅延フィードバック問題を標準的な専門家アドバイス付き予測ゲームに再定式化する。
• 得られたゲームにヴォフクの集約アルゴリズムを適用し、ミキサビリティ理論を活用して累積損失のきつい上界を導出する。
• パックサイズやタイミングに関する異なる仮定を想定した、AAP-max、AAP-インクリメンタル、AAP-カレントの複数のバリエーションを提案する。
• 得られたゲームのミキサビリティに基づく損失関数を用いることで、最悪ケースのレグレット意味で理論的最適性を保証する。
• 過去の時系列データの異なる期間（例：月単位や四半期単位）で訓練されたモデルから得られる専門家予測を用いることで、動的な適応を可能にする。
• 自己完結型のミックス損失プロTOCOLの下界を用いて、提案フレームワークの理論的最適性を検証する。

実験結果

リサーチクエスチョン

• RQ1 集約アルゴリズムは、個別ではなくバッチ（パック）形式で結果が到着する遅延フィードバックの文脈に適応可能か？
• RQ2 パックフィードバックプロトコル下での専門家アドバイス付き予測における理論的性能バウンド（レグレット）は何か？
• RQ3 AAPの性能は、Aggregating Algorithmの並列コピーを用いる既存手法と比べてどうか？
• RQ4 AAPによるオンライン専門家結合は、住宅価格データの時間的パターンを捉える際に、従来のバッチ学習モデルを上回るか？
• RQ5 パックサイズの処理戦略の選択（例：カレント vs インクリメンタル）が経験的性能に顕著な影響を与えるか？

主な発見

• AAP-カレントは、アームズおよびロンドンの住宅価格データセットの両方で、AAP-インクリメンタルおよびAAP-maxを一貫して上回り、優れた経験的安定性を示している。
• アームズ回帰データにおいて、AAP-カレントは総損失2.9684 ×10¹²を達成し、季節別バッチモデル（4.6036 ×10¹²）を著しく下回り、年間バッチモデル（2.9833 ×10¹²）と同等の性能を示している。
• ロンドンの住宅価格において、AAP-カレントは総損失28,461.39を記録し、季節別バッチモデル（28,750.21）を上回り、年間バッチモデル（28,272.74）をわずかに上回っている。
• Aggregating Algorithmの並列コピーを用いたAAPの性能は、AAPの平均に近く、PIDによる順序付けを施すことで結果が向上しており、意味のある順序付けが性能向上に寄与することが示唆されている。
• すべての設定において、AAPは季節別バッチモデルを著しく上回っており、ナーミナルな季節モデルは、適応的専門家結合に比べて非効率であることが示されている。
• ミキサビリティ理論から導出された理論的バウンドは最悪ケースにおいてきついものであり、自己完備型下界により、パック予測設定における集約アルゴリズムフレームワークの最適性が確認されている。