[论文解读] Random Feature-based Online Multi-kernel Learning in Environments with Unknown Dynamics

Yanning Shen, Tianyi Chen+1 more|arXiv (Cornell University)|Dec 28, 2017

Machine Learning and ELM参考文献 33被引用 11

一句话总结

本文提出 AdaRaker，一种在线多核学习算法，通过利用具有正交性促进的随机特征，在未知动态环境中实现可扩展的自适应函数逼近。该算法在理论上保证了次线性动态遗憾，通过数据驱动的核组合与动态追踪，在非平稳环境中优于静态基准。

ABSTRACT

Kernel-based methods exhibit well-documented performance in various nonlinear learning tasks. Most of them rely on a preselected kernel, whose prudent choice presumes task-specific prior information. Especially when the latter is not available, multi-kernel learning has gained popularity thanks to its flexibility in choosing kernels from a prescribed kernel dictionary. Leveraging the random feature approximation and its recent orthogonality-promoting variant, the present contribution develops a scalable multi-kernel learning scheme (termed Raker) to obtain the sought nonlinear learning function `on the fly,' first for static environments. To further boost performance in dynamic environments, an adaptive multi-kernel learning scheme (termed AdaRaker) is developed. AdaRaker accounts not only for data-driven learning of kernel combination, but also for the unknown dynamics. Performance is analyzed in terms of both static and dynamic regrets. AdaRaker is uniquely capable of tracking nonlinear learning functions in environments with unknown dynamics, and with with analytic performance guarantees. Tests with synthetic and real datasets are carried out to showcase the effectiveness of the novel algorithms.

研究动机与目标

• 解决在底层函数随时间变化且动态未知的动态环境中进行非线性函数逼近的挑战。
• 通过利用随机特征近似，克服传统核方法在大规模在线学习中面临的计算与存储瓶颈。
• 开发一种可扩展的在线多核学习框架，自适应地从词典中组合核函数，而无需事先知晓最优核函数或动态特性。
• 为非平稳、对抗性或时变环境中的在线学习提供静态与动态遗憾的理论性能保证。
• 实现实时学习，其分析性遗憾边界同时考虑了核组合与目标函数中未知的时间变化。

提出的方法

• 提出 Raker，一种基于随机特征近似的可扩展在线多核学习算法，并通过正交性促进降低方差、提升泛化能力。
• 在再生核希尔伯特空间（RKHS）框架下使用表示定理，将学习函数表示为随机特征的线性组合。
• 将 AdaRaker 作为 Raker 的自适应扩展，动态调整核权重以响应数据变化与未知动态。
• 将时间范围分解为长度为 ΔT 的子区间，通过分离子区间内的静态遗憾与环境变化引起的可变性，来界定动态遗憾。
• 利用引理 2，通过与 √ΔT 成比例的项来界定每个子区间内的静态遗憾，同时将动态分量限制为损失函数随时间的总变差。
• 应用赫尔德不等式，并将 ΔT 优化为总变差的函数，从而在高概率下实现动态遗憾边界为 O(T^{2/3} V^{1/3})，其中 V 为损失函数的总变差。

实验结果

研究问题

• RQ1 在未知、时变动态环境中，能否使在线多核学习实现可扩展性与自适应性？
• RQ2 如何将随机特征近似与多核学习结合，以在在线设置中保持低计算与内存开销？
• RQ3 在线学习在非平稳环境中的理论性能极限是什么？是否可通过数据驱动的核选择实现？
• RQ4 在缺乏对动态特性先验知识的情况下，在线算法的动态遗憾如何随时间范围与环境可变性而变化？
• RQ5 能否推导出一个遗憾边界，同时考虑静态基准与最优时变函数，即使在动态未知的情况下？

主要发现

• 在最优子时域长度选择下，AdaRaker 以高概率实现动态遗憾边界 O(T^{2/3} V^{1/3})，其中 V 为损失函数随时间的总变差。
• AdaRaker 的静态遗憾在每个长度为 ΔT 的子区间内被限制为 (C₀ + C₁ ln T)√ΔT，确保随时间呈次线性增长。
• 该算法的性能在理论上保证可追踪由给定核词典诱导的 RKHS 空间并集中的最佳动态函数。
• 遗憾边界随最优函数切换次数的增加而有利地缩放，对于 m 次切换的动态解，其边界为 O(√(Tm))，其中 m 为函数变化次数。
• 在合成与真实数据集上的实验评估表明，AdaRaker 在非平稳环境中优于静态与非自适应的在线学习基线。
• 使用正交性促进的随机特征显著降低了方差，并相比标准随机特征方法提升了泛化能力，尤其在高维设置中表现更优。