[论文解读] Collaborative Learning as an Agreement Problem

El Mahdi El Mhamdi, Sadegh Farhadkhani+4 more|arXiv (Cornell University)|Aug 3, 2020

Privacy-Preserving Technologies in Data被引用 5

一句话总结

本文提出了一种新型的弱形式共识——平均一致（averaging agreement），用于拜占庭协同学习，即使存在最多 f 个拜占庭节点，节点仍能集体近似诚实节点初始向量的平均值。本文提出了两种最优的异步算法：一种要求 n ≥ 6f+1，具有接近最优的平均常数；另一种要求 n ≥ 3f+1，实现了最优容错能力。两种算法均能在对抗性条件下实现鲁棒且可扩展的协同学习。

ABSTRACT

We address the problem of Byzantine collaborative learning: a set of $n$ nodes seek to collectively learn from each others' local data. The data distribution may vary from one node to another. No node is trusted and $f < n$ nodes can behave arbitrarily, i.e., they can be Byzantine. We prove that collaborative learning is equivalent to a new and weak form of agreement, which we call averaging agreement. In this problem, nodes start each with an initial vector and seek to approximately agree on a common vector, which is close to the average of honest nodes' initial vectors. More precisely, the error must remain within a multiplicative constant (which we call averaging constant) of the maximum $\ell_2$ distance between the honest nodes' initial vectors. Essentially, the smaller the averaging constant, the better the learning. We present two asynchronous solutions to averaging agreement, each we prove optimal according to some dimension. The first, based on the minimum-diameter averaging, requires $ n \geq 6f+1$, but achieves asymptotically the best-possible averaging constant up to a multiplicative constant. The second, based on reliable broadcast and coordinate-wise trimmed mean, achieves optimal Byzantine resilience, i.e., $n \geq 3f+1$. Each of these algorithms induces an optimal collaborative learning protocol.

研究动机与目标

• 将拜占庭故障下的协同学习形式化为一个一致问题。
• 定义并分析一种新型共识原原子——平均一致，即节点必须近似达成一致，选择一个与诚实节点初始向量平均值接近的向量。
• 设计在拜占庭环境下实现最优容错能力和最小平均常数的异步算法。
• 证明所提出的算法在对抗性数据和节点行为下可诱导出最优的协同学习协议。

提出的方法

• 将协同学习形式化为一个平均一致问题，即节点旨在收敛到一个与诚实节点初始向量平均值的 ℓ₂ 距离在有界误差范围内的向量。
• 提出第一种基于最小直径平均的算法，要求 n ≥ 6f+1 个节点，其平均常数渐近逼近理论上可能的最优值，最多相差一个乘法因子。
• 设计第二种基于可靠广播和逐坐标截断均值的算法，实现最优拜占庭容错能力，仅需 n ≥ 3f+1 个节点。
• 证明两种算法在其各自设计维度上均为最优：一种在平均常数方面最优，另一种在容错能力方面最优。
• 利用平均一致抽象，推导出端到端的协同学习协议，使其对拜占庭行为具有鲁棒性。
• 建立拜占庭协同学习与平均一致问题之间的等价性，从而支持构建模块化鲁棒学习系统。

实验结果

研究问题

• RQ1 拜占庭故障下的协同学习能否被简化为一种新的共识问题形式？
• RQ2 在异步拜占庭环境中，可实现的最小平均常数是多少？
• RQ3 如何在异步协同学习中实现最优容错能力（n ≥ 3f+1）？
• RQ4 能否同时实现最优容错能力和近似最优的平均常数？
• RQ5 在存在拜占庭节点的情况下，基于一致的协同学习的基本极限是什么？

主要发现

• 本文证明了拜占庭协同学习与求解平均一致问题等价。
• 平均一致被定义为一种共识原原子，要求节点在与诚实节点初始向量平均值的 ℓ₂ 距离内达成一致，且该一致范围受一个乘法常数（即平均常数）控制。
• 第一种算法实现了渐近最优的平均常数，其界接近理论最小值，最多相差一个常数因子。
• 第二种算法实现了最优拜占庭容错能力，仅需 n ≥ 3f+1 个节点，这是此类协议的最小可能值。
• 两种算法均在各自设计维度上被证明为最优：一种在平均常数方面最优，另一种在容错能力方面最优。
• 所提出的解决方案可诱导出最优的协同学习协议，即使最多 f 个节点行为任意，也能实现鲁棒聚合。