[论文解读] Detecting and Adapting to Irregular Distribution Shifts in Bayesian Online Learning

Aodong Li, Alex Boyd+2 more|arXiv (Cornell University)|Dec 15, 2020

Data Stream Mining Techniques被引用 4

一句话总结

该论文提出了一种模型无关的贝叶斯在线学习框架，通过引入二元变化变量来动态调节过去后验分布，从而检测并适应不规则的分布漂移，实现部分遗忘。通过在变化点假设上进行束搜索，该方法在监督和无监督设置下的概念漂移与协变量漂移任务中均提升了性能，在包括传感器数据、恶意软件和词嵌入在内的真实世界数据集上，优于最先进方法。

ABSTRACT

We consider the problem of online learning in the presence of distribution shifts that occur at an unknown rate and of unknown intensity. We derive a new Bayesian online inference approach to simultaneously infer these distribution shifts and adapt the model to the detected changes by integrating ideas from change point detection, switching dynamical systems, and Bayesian online learning. Using a binary 'change variable,' we construct an informative prior such that--if a change is detected--the model partially erases the information of past model updates by tempering to facilitate adaptation to the new data distribution. Furthermore, the approach uses beam search to track multiple change-point hypotheses and selects the most probable one in hindsight. Our proposed method is model-agnostic, applicable in both supervised and unsupervised learning settings, suitable for an environment of concept drifts or covariate drifts, and yields improvements over state-of-the-art Bayesian online learning approaches.

研究动机与目标

• 解决模型部署后数据分布不规则且不可预测地发生变化的在线学习中的分布漂移挑战。
• 使模型能够在不依赖关于漂移频率或强度的硬编码假设的前提下，平衡保留过去知识与适应新数据分布的能力。
• 开发一种可扩展的、模型无关的方法，将变化检测与贝叶斯在线学习相结合，适用于监督和无监督学习。
• 提升在非平稳环境（如自主系统、金融交易和自然语言处理应用）中的泛化能力和鲁棒性。

提出的方法

• 引入一个二元的'变化变量'，用于指示新输入数据是否与当前数据分布兼容，从而实现动态适应。
• 利用变化变量对贝叶斯在线学习中的先验进行条件化，当检测到分布漂移时，通过后验调节实现对过去信息的部分擦除。
• 在多个变化点假设上使用束搜索，以事后追踪并选择最可能的漂移序列。
• 将该框架应用于监督和无监督设置，包括因图像旋转引起的协变量漂移的序列SVHN/CIFAR-10数据集以及词嵌入动态变化。
• 采用变分贝叶斯推断，并结合紧凑且可解释的潜在结构，对随时间演变的语义进行建模。
• 通过在排序前丢弃最差的两个假设，实现束的多样化，以增强对替代变化点轨迹的探索。

实验结果

研究问题

• RQ1 贝叶斯在线学习系统如何在不了解漂移频率或强度的前提下检测不规则的分布漂移？
• RQ2 何种机制能够有效适应新数据分布，同时保留过去数据的有用记忆？
• RQ3 统一框架能否将变化检测与贝叶斯在线学习相结合，以在多样化的真实世界数据集中提升性能？
• RQ4 所提出方法在处理概念漂移和协变量漂移方面与最先进方法相比表现如何？
• RQ5 该方法在多大程度上能够对时间维度上的可解释语义漂移（如词嵌入）进行建模？

主要发现

• 在包含篮球运动员轨迹、恶意软件特征、传感器数据和电价等概念漂移数据集上，该方法显著优于最先进贝叶斯在线学习方法。
• 在因图像旋转导致协变量漂移的序列SVHN和CIFAR-10数据集中，模型相比基线方法实现了更好的泛化能力和鲁棒性。
• 在无监督词嵌入分析中，该方法捕捉到了可解释的语义漂移，例如'atom'一词在1945年从'element'（元素）转向'nuclear'（核的）；'race'一词在冷战结束后（1991年后）发生语义转变。
• 束搜索机制能够追踪多个可能的漂移点序列，提升了漂移检测的鲁棒性和准确性。
• 该模型具有高度可扩展性，成功应用于包含数十万参数和数万特征维度的模型。
• 率失真曲线显示，无论任务时长如何，该方法的L1日期误差均低于'分箱'基线方法，且随着每年允许的语义变化数量增加，误差持续降低。