[论文解读] Aggregating strategies for long-term forecasting.

Alexander Korotin, Vladimir V. V’yugin+1 more|arXiv (Cornell University)|Jun 7, 2018

Forecasting Techniques and Applications被引用 4

一句话总结

本文提出了一种基于指数重加权的广义聚合算法，用于长期预测，对Vovk算法进行了两项改进：一项通过复制独立专家实现时间无关的遗憾边界，另一项具有O(√T)的遗憾边界，更具实用性。主要贡献在于为长期预测提供了理论上最优且时间不变的遗憾边界。

ABSTRACT

The article is devoted to investigating the application of aggregating algorithms to the problem of the long-term forecasting. We examine the classic aggregating algorithms based on the exponential reweighing. For the general Vovk's aggregating algorithm we provide its generalization for the long-term forecasting. For the special basic case of Vovk's algorithm we provide its two modifications for the long-term forecasting. The first one is theoretically close to an optimal algorithm and is based on replication of independent copies. It provides the time-independent regret bound with respect to the best expert in the pool. The second one is not optimal but is more practical and has $O(\sqrt{T})$ regret bound, where $T$ is the length of the game.

研究动机与目标

• 解决序列预测设置中长期预测的挑战。
• 将基于指数重加权的经典聚合算法扩展至长期预测场景。
• 开发在长时间预测范围内具有有界遗憾的理论最优且实际可行的策略。
• 为池中最佳专家提供与时间无关的遗憾边界。

提出的方法

• 使用指数重加权方法，将Vovk的聚合算法推广至长期预测。
• 提出第一项改进，基于复制独立专家副本，以实现时间无关的遗憾边界。
• 开发第二项改进，具有O(√T)的遗憾边界，更具实用性。
• 将该框架应用于专家池，通过指数重加权动态调整权重。
• 利用遗憾分析比较算法相对于事后最佳专家的性能。
• 建立相对于最佳专家的累积损失的理论边界。

实验结果

研究问题

• RQ1 Vovk的聚合算法能否被推广，以在长期预测时间范围内实现稳定性能？
• RQ2 在长期预测中，聚合策略可实现的理论遗憾边界是什么？
• RQ3 如何在长时域预测中实现时间无关的遗憾边界？
• RQ4 长期预测算法中，理论最优性与实际可行性之间存在何种权衡？
• RQ5 能否设计出一种具有O(√T)次线性遗憾边界的实用算法，用于长期预测？

主要发现

• 所提出的算法实现了时间无关的遗憾边界，确保无论预测时间范围如何，性能均保持稳定。
• 基于复制独立专家副本的第一项改进在理论上是最优的，其性能与池中最佳专家相当。
• 第二项改进实现了O(√T)的遗憾边界，该边界为次线性且适用于实际应用。
• 理论分析证实，遗憾随时间T的增长速度慢于线性。
• 该框架成功将Vovk的算法推广至长期预测，并提供了可证明的性能保证。
• 结果表明，通过量身定制的算法改进，理论最优性与实际可行性均可实现。