[论文解读] Distributed Online Learning with Multiple Kernels

Jeongmin Chae, Song‐Nam Hong|arXiv (Cornell University)|Feb 25, 2021

Advanced Adaptive Filtering Techniques被引用 4

一句话总结

本文提出DOMKL，一种完全去中心化的在线学习框架，适用于物联网网络中的流式数据，支持多核函数。通过结合在线交替方向乘子法（ADMM）与分布式Hedge算法，DOMKL实现了最优的${\cal O}(\sqrt{T})$遗憾边界，使每个节点能够随时间推移学习到共享的非线性函数，同时保持数据隐私。

ABSTRACT

We consider the problem of learning a nonlinear function over a network of learners in a fully decentralized fashion. Online learning is additionally assumed, where every learner receives continuous streaming data locally. This learning model is called a fully distributed online learning (or a fully decentralized online federated learning). For this model, we propose a novel learning framework with multiple kernels, which is named DOMKL. The proposed DOMKL is devised by harnessing the principles of an online alternating direction method of multipliers and a distributed Hedge algorithm. We theoretically prove that DOMKL over T time slots can achieve an optimal sublinear regret, implying that every learner in the network can learn a common function which has a diminishing gap from the best function in hindsight. Our analysis also reveals that DOMKL yields the same asymptotic performance of the state-of-the-art centralized approach while keeping local data at edge learners. Via numerical tests with real datasets, we demonstrate the effectiveness of the proposed DOMKL on various online regression and time-series prediction tasks.

研究动机与目标

• 为在持续流式数据下以去中心化、隐私保护的方式学习非线性函数提供解决方案。
• 开发一种支持多核学习（MKL）的分布式在线学习框架，无需集中化数据。
• 在完全去中心化的网络中实现次线性遗憾，同时保持本地数据隐私。
• 将在线核学习扩展至分布式环境，实现可扩展的实时性能。

提出的方法

• DOMKL采用在线交替方向乘子法（ADMM）协调去中心化节点间的协同学习。
• 通过集成分布式Hedge算法，从预定义的P个核函数字典中动态选择最优的核组合。
• 利用随机特征近似技术降低计算复杂度，实现在线更新。
• 每个节点维护模型参数和对偶变量的本地估计，并通过一致性协议与本地数据进行更新。
• 通过ADMM强制执行一致性约束，并利用指数加权方法平衡核选择，确保算法收敛。
• 理论分析证明，遗憾增长为${\cal O}(\sqrt{T})$，与集中式在线MKL的性能相匹配。

实验结果

研究问题

• RQ1 完全去中心化的在线学习系统是否能在多核非线性函数学习中实现次线性遗憾？
• RQ2 在流式数据下，如何在分布式、隐私保护的环境中动态优化核选择？
• RQ3 所提出的框架是否能在不集中数据的前提下，达到与集中式在线MKL的渐近性能相当？
• RQ4 网络拓扑结构与通信约束对分布式在线MKL的收敛性和遗憾有何影响？

主要发现

• DOMKL在$T$个时间槽内实现了最优的次线性遗憾${\cal O}(\sqrt{T})$，确保学习误差随时间推移而减小。
• 该框架与最先进的集中式在线多核学习方法在渐近性能上保持一致。
• 在真实数据集上的数值评估验证了DOMKL在在线回归与时间序列预测任务中的有效性。
• 该算法将数据保留在边缘设备上，满足物联网应用中对强隐私保护的需求。
• 通过Hoeffding不等式与错位求和技术推导出遗憾边界，验证了理论收敛性。
• 参数调优，特别是$\eta_g = {\cal O}(\sqrt{T})$，确保实现了次线性遗憾。