[論文レビュー] Aggregating strategies for long-term forecasting.

Alexander Korotin, Vladimir V. V’yugin+1 more|arXiv (Cornell University)|Jun 7, 2018

Forecasting Techniques and Applications被引用数 4

ひとこと要約

本稿では、指数的再重み付けを用いた長期予測のための一般化された集約アルゴリズムを提案する。Vovkのアルゴリズムの2つの変更を導入する：1つは独立した専門家を複製することで時間に依存しないレジーットバウンドを達成するもので、もう1つはO(√T)のレジーットバウンドを有するが、より実用的である。主な貢献は、長期予測に対して理論的に最適で時間に依存しないレジーットバウンドを達成することである。

ABSTRACT

The article is devoted to investigating the application of aggregating algorithms to the problem of the long-term forecasting. We examine the classic aggregating algorithms based on the exponential reweighing. For the general Vovk's aggregating algorithm we provide its generalization for the long-term forecasting. For the special basic case of Vovk's algorithm we provide its two modifications for the long-term forecasting. The first one is theoretically close to an optimal algorithm and is based on replication of independent copies. It provides the time-independent regret bound with respect to the best expert in the pool. The second one is not optimal but is more practical and has $O(\sqrt{T})$ regret bound, where $T$ is the length of the game.

研究の動機と目的

• 逐次予測の文脈における長期予測の課題に対処すること。
• 指数的再重み付けに基づく古典的な集約アルゴリズムを長期予測の状況に拡張すること。
• 延長された時間枠における有界なレジーットを持つ理論的に最適で実用的可能な戦略を開発すること。
• プール内の最良の専門家に対して時間に依存しないレジーットバウンドを提供すること。

提案手法

• 指数的再重み付けを用いて、長期予測のためのVovkの集約アルゴリズムを一般化する。
• 独立した専門家のコピーを複製することで、時間に依存しないレジーットを達成する最初の変更を導入する。
• O(√T)のレジーットバウンドを持つが、より実用的な2番目の変更を構築する。
• 専門家プールにフレームワークを適用し、指数的再重み付けにより重みを動的に調整する。
• ヒンディの最良の専門家との性能比較のためのレジーット解析を用いる。
• 最良の専門家に対する累積損失の理論的境界を確立する。

実験結果

リサーチクエスチョン

• RQ1 Vovkの集約アルゴリズムは、長期の予測期間にわたり安定した性能を達成するために一般化可能か？
• RQ2 長期予測における集約戦略が達成可能な理論的レジーットバウンドは何か？
• RQ3 長期予測において、時間に依存しないレジーットバウンドをどのように達成できるか？
• RQ4 理論的最適性と実用的妥当性の間には、長期予測アルゴリズムにおいてどのようなトレードオフがあるか？
• RQ5 O(√T)の非線形レジーットバウンドを持つ実用的なアルゴリズムを長期予測用に設計可能か？

主な発見

• 提案されたアルゴリズムは、時間に依存しないレジーットバウンドを達成し、予測期間に関係なく安定した性能を保証する。
• 最初の変更は、独立した専門家のコピーの複製に基づくが、理論的に最適であり、プール内の最良の専門家の性能と一致する。
• 2番目の変更は、O(√T)のレジーットバウンドを達成し、実世界の応用において非線形かつ実用的である。
• 理論的分析により、レジーットが時間Tに対して線形より遅く増加することが確認された。
• フレームワークは、Vovkのアルゴリズムを、保証された性能を持つ長期予測に一般化することに成功した。
• 結果は、理論的最適性と実用的妥当性が、適切なアルゴリズム的変更によって両立可能であることを示している。