[论文解读] Byzantine Fault-Tolerance in Peer-to-Peer Distributed Gradient-Descent

Nirupam Gupta, Nitin H. Vaidya|arXiv (Cornell University)|Jan 28, 2021

Advanced Memory and Neural Computing参考文献 31被引用 6

一句话总结

本文提出了一种拜占庭容错的点对点分布式梯度下降算法，实现了 f-容错——即使最多 f 个代理任意行为，所有非故障代理仍能收敛到仅由其自身聚合代价函数定义的最优解。该方法依赖于一种新型共识机制和 2f 冗余条件，在标准假设下使用递减步长证明了收敛性。

ABSTRACT

We consider the problem of Byzantine fault-tolerance in the peer-to-peer (P2P) distributed gradient-descent method -- a prominent algorithm for distributed optimization in a P2P system. In this problem, the system comprises of multiple agents, and each agent has a local cost function. In the fault-free case, when all the agents are honest, the P2P distributed gradient-descent method allows all the agents to reach a consensus on a solution that minimizes their aggregate cost. However, we consider a scenario where a certain number of agents may be Byzantine faulty. Such faulty agents may not follow an algorithm correctly, and may share arbitrary incorrect information to prevent other non-faulty agents from solving the optimization problem. In the presence of Byzantine faulty agents, a more reasonable goal is to allow all the non-faulty agents to reach a consensus on a solution that minimizes the aggregate cost of all the non-faulty agents. We refer to this fault-tolerance goal as $f$-resilience where $f$ is the maximum number of Byzantine faulty agents in a system of $n$ agents, with $f < n$. Most prior work on fault-tolerance in P2P distributed optimization only consider approximate fault-tolerance wherein, unlike $f$-resilience, all the non-faulty agents' compute a minimum point of a non-uniformly weighted aggregate of their cost functions. We propose a fault-tolerance mechanism that confers provable $f$-resilience to the P2P distributed gradient-descent method, provided the non-faulty agents satisfy the necessary condition of $2f$-redundancy, defined later in the paper. Moreover, compared to prior work, our algorithm is applicable to a larger class of high-dimensional convex distributed optimization problems.

研究动机与目标

• 解决点对点分布式梯度下降中的拜占庭容错问题，其中故障代理可能发送任意或不一致的数据以破坏优化过程。
• 实现精确容错——定义为 f-容错——即在最多 f 个拜占庭代理存在的情况下，非故障代理仍能收敛到其自身聚合代价函数的真实最小值。
• 将容错能力从近似解扩展到精确收敛，且在必要且充分的条件下：2f 冗余。
• 确保该算法可应用于比以往工作更广泛的高维凸优化问题类别。

提出的方法

• 提出一种改进的点对点分布式梯度下降算法，引入共识机制以过滤恶意更新。
• 采用类似李雅普诺夫的函数 $ V^t $ 分析收敛性，定义为非故障代理估计值与真实最优点 $ x^* $ 之间偏差的平方和。
• 使用递减步长 $ \eta_t $，满足 $ \sum_{t=0}^\infty \eta_t = \infty $ 且 $ \sum_{t=0}^\infty \eta_t^2 < \infty $，以确保收敛性同时保持稳定性。
• 施加 2f 冗余条件：对于任意两个大小为 f 的非故障代理不相交子集，其在最优点处的次微分交集非空。
• 应用一种鲁棒聚合规则，利用凸函数的几何性质和冗余条件来拒绝恶意梯度。
• 通过反证法证明收敛性：假设 $ V^t $ 的极限非零，将导致一个本应有界的级数发散，与有界性矛盾。

实验结果

研究问题

• RQ1 点对点分布式梯度下降算法能否在最多 f 个拜占庭故障代理存在的情况下实现精确的 f-容错？
• RQ2 2f 冗余条件是否为实现分布式凸优化中 f-容错的必要且充分条件？
• RQ3 所提算法能否确保所有非故障代理收敛到其自身聚合代价函数的真实最小值，而非加权或近似解？
• RQ4 该算法在标准假设下是否保持收敛性，包括递减步长和有界初始估计？
• RQ5 该容错机制能否扩展至超出以往近似容错方法适用范围的高维凸优化问题？

主要发现

• 所提算法实现了 f-容错：所有非故障代理收敛到仅由非故障代理的聚合代价函数最小化的同一最优解点。
• 在 2f 冗余条件下证明了收敛性，且该条件被证明是此场景下 f-容错的必要条件。
• 算法确保 $ \sum_{t=0}^\infty \eta_t \|x^t_i - x^*\|^2 < \infty $，这意味着对所有非故障代理 i，有 $ \|x^t_i - x^*\| \to 0 $ 当 $ t \to \infty $。
• 收敛性证明依赖于反证法：利用 $ \sum \Omega^t $ 和 $ V^\infty $ 的有界性，以及 $ \sum \eta_t $ 的发散性，证明 $ \lim_{t\to\infty} V^t = 0 $。
• 该方法可应用于比以往近似容错方法更广泛的高维凸优化问题类别。
• 该算法是确定性的，在给定假设下确保共识性和正确性，不依赖于概率保证。