[论文解读] Aggregating Algorithm for Prediction of Packs

Dmitry Adamskiy, Anthony Bellotti+2 more|arXiv (Cornell University)|Oct 23, 2017

Advanced Bandit Algorithms Research参考文献 14被引用 4

一句话总结

本文提出了打包预测的聚合算法（Aggregating Algorithm for Prediction of Packs, AAP），一种新颖的在线学习框架，适用于延迟反馈场景，其中结果以批次（packs）形式到达。通过将每个批次视为单一结果，并应用Vovk的聚合算法，该方法实现了紧密的遗憾边界，并在基线算法中表现出优越的实证性能，尤其在处理可变批次大小和真实世界房价预测方面表现突出。

ABSTRACT

This paper formulates the protocol for prediction of packs, which a special case of prediction under delayed feedback. Under this protocol, the learner must make a few predictions without seeing the outcomes and then the outcomes are revealed. We develop the theory of prediction with expert advice for packs. By applying Vovk's Aggregating Algorithm to this problem we obtain a number of algorithms with tight upper bounds. We carry out empirical experiments on housing data.

研究动机与目标

• 解决在线预测中延迟反馈的挑战，特别是当结果以批次（packs）形式到达而非逐个顺序到达时。
• 在基于批次的反馈背景下，为带专家建议的预测构建一个理论基础扎实的框架。
• 设计在实际应用（如房价预测）中实现紧密性能边界和稳定实证结果的算法。
• 将所提出的AAP框架与现有方法进行比较，包括并行复制的聚合算法和批量训练模型。
• 评估在线专家组合是否能优于传统批量学习，在捕捉历史数据中的时间模式方面表现更优。

提出的方法

• 将每个结果批次视为单一复合结果，将延迟反馈问题重新表述为标准的专家建议预测游戏。
• 在所得游戏中应用Vovk的聚合算法，利用可混合性理论推导累积损失的紧密上界。
• 提出AAP的多个变体——AAP-max、AAP-incremental和AAP-current——每种均针对关于批次大小和时间的不同假设进行了优化。
• 采用基于所得游戏可混合性的损失函数，确保在最坏情况遗憾意义下的理论最优性。
• 使用基于历史数据不同时间段（如每月或每季度）训练的模型生成的专家预测，实现动态适应。
• 采用自包含的混合损失协议下界，以验证所提框架在理论上的最优性。

实验结果

研究问题

• RQ1 聚合算法能否被调整以处理结果以批次而非单个形式到达的延迟反馈？
• RQ2 在基于批次的反馈协议下，带专家建议的预测的理论性能边界（遗憾）是什么？
• RQ3 AAP与使用并行复制聚合算法的现有算法相比表现如何？
• RQ4 通过AAP进行在线专家组合能否优于批量训练模型，在捕捉房价数据的时间模式方面表现更优？
• RQ5 处理批次大小的策略选择（如当前法与增量法）是否显著影响实证性能？

主要发现

• AAP-current在Amen和伦敦房价数据集上始终优于AAP-incremental和AAP-max，展现出更优的实证稳定性。
• 在Amen回归数据上，AAP-current的总损失为2.9684 ×10¹²，显著低于季节性批量模型（4.6036 ×10¹²），并与年度批量模型（2.9833 ×10¹²）相当。
• 在伦敦房价数据上，AAP-current的总损失为28,461.39，优于季节性批量模型（28,750.21），并略高于年度批量模型（28,272.74）。
• 使用并行复制的聚合算法的AAP性能接近AAP的平均值，但按PID排序后结果更优，表明有意义的排序可提升性能。
• 在所有设置中，AAP显著优于季节性批量模型，表明与自适应专家组合相比，简单的季节性建模并非最优。
• 基于可混合性理论推导的理论边界在最坏情况下是紧密的，自包含下界也证实了在成批预测场景下，聚合算法框架的最优性。