[论文解读] Collaborative Learning in the Jungle

El Mahdi El Mhamdi, Sadegh Farhadkhani+4 more|arXiv (Cornell University)|Aug 3, 2020

Privacy-Preserving Technologies in Data参考文献 29被引用 4

一句话总结

本文将平均一致（averaging agreement）引入为拜占庭协同学习的基础问题，其中具有异构数据的节点必须在最多 f 个节点任意行为的情况下，收敛到接近诚实节点输入平均值的向量。本文提出了两种最优的异步算法——一种要求 n ≥ 6f+1 且具有接近最优的平均常数，另一种在 n ≥ 3f+1 时实现最优容错能力，利用截断均值和可靠广播；证明了协同学习与平均一致之间的等价性，并在对抗性、异构环境下建立了新的不可能性定理。

ABSTRACT

We study Byzantine collaborative learning, where $n$ nodes seek to collectively learn from each others' local data. The data distribution may vary from one node to another. No node is trusted, and $f < n$ nodes can behave arbitrarily. We prove that collaborative learning is equivalent to a new form of agreement, which we call averaging agreement. In this problem, nodes start each with an initial vector and seek to approximately agree on a common vector, which is close to the average of honest nodes' initial vectors. We present two asynchronous solutions to averaging agreement, each we prove optimal according to some dimension. The first, based on the minimum-diameter averaging, requires $ n \geq 6f+1$, but achieves asymptotically the best-possible averaging constant up to a multiplicative constant. The second, based on reliable broadcast and coordinate-wise trimmed mean, achieves optimal Byzantine resilience, i.e., $n \geq 3f+1$. Each of these algorithms induces an optimal Byzantine collaborative learning protocol. In particular, our equivalence yields new impossibility theorems on what any collaborative learning algorithm can achieve in adversarial and heterogeneous environments.

研究动机与目标

• 将拜占庭故障下的协同学习形式化为一种新的共识问题：平均一致。
• 设计在异构、对抗性数据环境中实现最优容错能力与收敛性的异步算法。
• 证明拜占庭协同学习与平均一致之间的等价性，从而推导出新的不可能性结果。
• 在任意节点行为下，建立分布式学习中收敛精度与容错能力的最优边界。

提出的方法

• 引入平均一致作为新的共识原原子，使节点收敛到接近诚实节点初始向量平均值的向量。
• 提出首个基于最小直径平均的算法，要求 n ≥ 6f+1，实现渐近最优的平均常数。
• 设计第二种算法，利用可靠广播与坐标轴截断均值，实现 n ≥ 3f+1 时的最优拜占庭容错能力。
• 利用协同学习与平均一致之间的等价性，推导出对抗性、异构学习环境下的新不可能性定理。
• 分别从容错能力与收敛精度角度，证明两种算法的最优性。
• 将两种算法应用于构建最优的拜占庭协同学习协议。

实验结果

研究问题

• RQ1 拜占庭协同学习能否被简化为一种新的共识形式？如果是，其特性是什么？
• RQ2 在异步拜占庭协同学习中，实现最优容错能力所需的最少节点数是多少？
• RQ3 在任意节点行为与异构数据分布下，如何最大化收敛精度？
• RQ4 在对抗性、异构环境中，协同学习的根本极限（不可能性结果）是什么？
• RQ5 能否在异步环境中实现容错能力与收敛精度之间的最优权衡？

主要发现

• 本文建立了拜占庭协同学习与平均一致之间的正式等价性，为对抗环境下分布式学习提供了新的理论洞见。
• 基于最小直径平均的协议实现了渐近最优的平均常数，且 n ≥ 6f+1 的边界对于该方法是必要的。
• 第二种基于可靠广播与坐标轴截断均值的协议在 n ≥ 3f+1 时实现了最优拜占庭容错能力，与理论下限完全匹配。
• 两种算法在各自维度上均被证明是最优的：一种在收敛精度（平均常数）方面，另一种在容错能力方面。
• 协同学习与平均一致之间的等价性导出了新的不可能性定理，揭示了在对抗性、异构学习环境中可实现性的内在限制。
• 结果表明，通过所提出的两种异步算法，可实现最优的拜占庭协同学习，每种算法在不同的性能指标上均达到最优。