[论文解读] Adapting to Non-stationarity with Growing Expert Ensembles

Cosma Rohilla Shalizi, Abigail Z. Jacobs+2 more|arXiv (Cornell University)|Mar 4, 2011

Advanced Bandit Algorithms Research参考文献 20被引用 13

一句话总结

本文提出一种动态增长的专家集成方法，可在新数据到达时动态添加新模型到在线预测系统中，无需假设固定或明确指定的模型，即可适应非平稳时间序列。通过将固定份额算法修改为处理不断扩展的专家集合，该方法在时间上相对于最佳专家序列实现了 o(n) 的遗憾，确保即使在任意非平稳性下也具有强大的事后性能保证。

ABSTRACT

When dealing with time series with complex non-stationarities, low retrospective regret on individual realizations is a more appropriate goal than low prospective risk in expectation. Online learning algorithms provide powerful guarantees of this form, and have often been proposed for use with non-stationary processes because of their ability to switch between different forecasters or ``experts''. However, existing methods assume that the set of experts whose forecasts are to be combined are all given at the start, which is not plausible when dealing with a genuinely historical or evolutionary system. We show how to modify the ``fixed shares'' algorithm for tracking the best expert to cope with a steadily growing set of experts, obtained by fitting new models to new data as it becomes available, and obtain regret bounds for the growing ensemble.

研究动机与目标

• 为了解决现有在线学习方法在初始化时假设专家集合固定所带来的局限性，这在演化或历史系统中不切实际。
• 开发一种预测框架，可适应时间序列中的任意非平稳性，而无需依赖明确指定的参数模型或结构突变假设。
• 为一个不断增长的专家集合提供理论遗憾边界，其中新模型随时间逐步添加并更新。
• 在复杂且不断演化的系统中实现稳健的个体序列预测，其中没有单一模型能在长时间内保持有效。

提出的方法

• 该方法通过每 τ 个时间步添加一个新专家来构建增长型集成，每个专家均基于最近数据的逐步缩短窗口进行拟合，从最新数据点开始。
• 每个新专家均以默认参数设置初始化，并通过持续接收的数据进行更新，确保与当前动态保持相关性。
• 对固定份额算法进行调整，以确保每个专家保持最小权重（固定份额），从而在先前表现不佳的专家重新变得有效时实现快速恢复。
• 通过指数加权平均组合预测结果，权重根据相对于集成平均表现的性能进行乘法调整。
• 遗憾分析考虑了专家数量的增长以及个别专家可能表现极差的可能性，同时仍能保证相对于最佳专家序列的 o(n) 遗憾。
• 该框架支持任意非平稳性，包括渐进漂移和非结构性变化，且无需对数据生成过程做任何先验假设。

实验结果

研究问题

• RQ1 在线学习算法能否被调整以处理非平稳时间序列中持续增长的专家集合，而非仅限于初始固定的专家集合？
• RQ2 当个别专家可能表现不佳或随时间改变相关性时，能否为增长型专家集合建立遗憾边界？
• RQ3 如何修改固定份额算法，以在专家数量随时间增加时仍保持性能保证？
• RQ4 在不假设模型明确指定或结构突变的前提下，是否可能在任意非平稳性下实现 Hannan 一致性并获得 o(n) 遗憾？
• RQ5 时间步长 τ 对增长型集成的性能和遗憾边界有何影响？

主要发现

• 所提出的增长型专家集成方法在 n 个时间步内相对于事后最佳专家序列实现了 o(n) 遗憾，即使集成不断增长且个别专家可能表现任意差。
• 遗憾边界为 O(√(n((m+1)ln q + (n−1)H(m/(n−1))))），其中 m 为专家切换次数，q 为基线专家数量，已针对增长型集成进行调整。
• 该方法保持了 Hannan 一致性，确保累积损失相对于事后最佳专家序列的增长为次线性。
• 固定份额机制成功扩展至增长型集成，保持了从表现不佳专家中快速恢复的能力。
• 在美国 GDP 数据上的实证结果表明，增长型集成在累积遗憾方面优于全局样条平滑与 ARMA(8,7) 模型的组合。
• 该框架对任意非平稳性具有鲁棒性，且无需对趋势、结构突变或明确指定模型做任何假设。