[论文解读] Cooperative Autonomous Online Learning

Yan Feng, S. V. N. Vishwanathan+1 more|arXiv (Cornell University)|Jun 21, 2010

Privacy-Preserving Technologies in Data被引用 3

一句话总结

本文提出了一种协作式、去中心化的在线学习框架，其中自主学习者利用分布式数据更新本地模型，并通过网络与邻居交换信息。该框架为强凸函数建立了遗憾界，并证明了内在的隐私保护特性：在连通性大于一的网络中，恶意节点无法从其他学习者重建次梯度或原始数据，因此该方法适用于隐私敏感的应用场景。

ABSTRACT

Online learning has become increasingly popular on handling massive data. The sequential nature of online learning, however, requires a centralized learner to store data and update parameters. In this paper, we consider online learning with {\em distributed} data sources. The autonomous learners update local parameters based on local data sources and periodically exchange information with a small subset of neighbors in a communication network. We derive the regret bound for strongly convex functions that generalizes the work by Ram et al. (2010) for convex functions. Most importantly, we show that our algorithm has \emph{intrinsic} privacy-preserving properties, and we prove the sufficient and necessary conditions for privacy preservation in the network. These conditions imply that for networks with greater-than-one connectivity, a malicious learner cannot reconstruct the subgradients (and sensitive raw data) of other learners, which makes our algorithm appealing in privacy sensitive applications.

研究动机与目标

• 解决在分布式数据源而非集中式存储环境下的在线学习挑战。
• 设计一种协作式学习系统，其中自主学习者更新本地参数，并仅与部分邻居通信。
• 为强凸函数建立遗憾界，以扩展先前针对凸函数的研究工作。
• 分析并证明系统在何种条件下可实现对恶意学习者的内在隐私保护。
• 证明当网络连通性大于一时，攻击者无法重构次梯度或原始数据。

提出的方法

• 学习者自主运行，使用自身数据流更新本地模型，无需集中协调。
• 学习者在预定义的通信网络中，定期与一小部分邻近节点进行通信。
• 该算法采用一种去中心化优化框架，将Ram等人（2010）的方法推广至强凸函数。
• 通过针对去中心化环境中强凸损失函数的收敛性分析，推导出遗憾界。
• 通过次梯度重构攻击分析隐私保护机制，证明当连通性 >1 时，敏感数据无法被重构。
• 基于网络结构与信息流，推导出隐私保护的理论条件，证明其既为必要条件也为充分条件。

实验结果

研究问题

• RQ1 如何在多个具有分布式数据源的自主学习者之间有效实现在线学习的去中心化？
• RQ2 在协作式、去中心化的在线学习系统中，强凸函数的遗憾界是什么？
• RQ3 通信网络的何种结构特性可确保对次梯度重构攻击的隐私保护？
• RQ4 在何种条件下，系统可被形式化证明对恶意学习者具有隐私保护能力？
• RQ5 当网络连通性大于一时，其对从次梯度重构敏感数据的能力有何影响？

主要发现

• 所提出的算法为强凸函数实现了遗憾界，该结果推广了Ram等人（2010）针对凸函数的先前工作。
• 系统具备内在隐私保护特性，即任何恶意学习者均无法从其他学习者处重构次梯度或原始数据。
• 对于连通性大于一的网络，隐私保护的条件既是必要条件也是充分条件。
• 在这些网络中，次梯度重构攻击会失败，从而确保敏感数据得到保护。
• 隐私保证具有结构性，依赖于网络拓扑，而非依赖于密码学混淆技术。