[論文レビュー] Byzantine Fault-Tolerance in Peer-to-Peer Distributed Gradient-Descent

Nirupam Gupta, Nitin H. Vaidya|arXiv (Cornell University)|Jan 28, 2021

Advanced Memory and Neural Computing参考文献 31被引用数 6

ひとこと要約

本稿では、最大f人のエージェントが任意に振る舞う状況下でも、非故障エージェントが自らの集約コスト関数の最適解に収束することを保証する、Byzantine故障耐性を備えたP2P分散勾配降下法を提案する。この手法は、新規のコンセンサスメカニズムと2f冗長性条件に依拠しており、減少するステップサイズを用いる標準的仮定のもとで収束性が証明される。

ABSTRACT

We consider the problem of Byzantine fault-tolerance in the peer-to-peer (P2P) distributed gradient-descent method -- a prominent algorithm for distributed optimization in a P2P system. In this problem, the system comprises of multiple agents, and each agent has a local cost function. In the fault-free case, when all the agents are honest, the P2P distributed gradient-descent method allows all the agents to reach a consensus on a solution that minimizes their aggregate cost. However, we consider a scenario where a certain number of agents may be Byzantine faulty. Such faulty agents may not follow an algorithm correctly, and may share arbitrary incorrect information to prevent other non-faulty agents from solving the optimization problem. In the presence of Byzantine faulty agents, a more reasonable goal is to allow all the non-faulty agents to reach a consensus on a solution that minimizes the aggregate cost of all the non-faulty agents. We refer to this fault-tolerance goal as $f$-resilience where $f$ is the maximum number of Byzantine faulty agents in a system of $n$ agents, with $f < n$. Most prior work on fault-tolerance in P2P distributed optimization only consider approximate fault-tolerance wherein, unlike $f$-resilience, all the non-faulty agents' compute a minimum point of a non-uniformly weighted aggregate of their cost functions. We propose a fault-tolerance mechanism that confers provable $f$-resilience to the P2P distributed gradient-descent method, provided the non-faulty agents satisfy the necessary condition of $2f$-redundancy, defined later in the paper. Moreover, compared to prior work, our algorithm is applicable to a larger class of high-dimensional convex distributed optimization problems.

研究の動機と目的

• P2P分散勾配降下において、故障エージェントが任意または一貫性のないデータを送信して最適化を妨害する状況におけるByzantine故障耐性を解決すること。
• 正確な故障耐性（f-耐性）を達成することを目的とし、f個までのByzantineエージェントが存在する状況下でも、非故障エージェントが自らの集約コスト関数の真の最小値に収束することを保証すること。
• 従来の近似解にとどまらず、必要な十分条件としての2f冗長性を満たすことで、正確な収束にまで拡張された故障耐性を実現すること。
• 従来の研究より広い範囲の高次元凸最適化問題に適用可能なアルゴリズムを実現すること。

提案手法

• 悪意のある更新をフィルタリングするためのコンセンサスメカニズムを組み込んだ、改変されたP2P分散勾配降下アルゴリズムを導入する。
• 収束性を分析するために、非故障エージェントの推定値が真の最適点 $ x^* $ からの二乗偏差の和として定義される、類似リャプノフ関数 $ V^t $ を用いる。
• 収束性を保証しながら安定性を維持するため、$ \sum_{t=0}^\infty \eta_t = \infty $ かつ $ \sum_{t=0}^\infty \eta_t^2 < \infty $ を満たす減少ステップサイズ $ \eta_t $ を採用する。
• 2f冗長性条件を課す：任意のサイズfの非故障エージェントの互いに素な2つの部分集合に対して、最適点における部分微分の交差が空でない。
• 凸関数の幾何的性質と冗長性条件を活用して、悪意のある勾配を除外するロバストな集約ルールを適用する。
• 背理法による収束証明を行う：$ V^t $ の非ゼロ極限を仮定すると、有限であることが示された級数が発散することになり、有界性に矛盾する。

実験結果

リサーチクエスチョン

• RQ1 最大f人のByzantine故障エージェントが存在する状況下でも、P2P分散勾配降下アルゴリズムが正確なf-耐性を達成できるか？
• RQ2 2f冗長性条件は、分散凸最適化におけるf-耐性を達成するための必要十分条件であるか？
• RQ3 提案されたアルゴリズムは、非故障エージェントが重み付けや近似解ではなく、自らの集約コスト関数の真の最小値に収束することを保証できるか？
• RQ4 減少ステップサイズと初期推定値の有界性といった標準的仮定のもとでも、アルゴリズムは収束を維持するか？
• RQ5 故障耐性メカニズムは、従来の近似故障耐性手法の範囲を超えて、高次元凸最適化問題へ拡張可能か？

主な発見

• 提案されたアルゴリズムはf-耐性を達成する：すべての非故障エージェントが、非故障エージェントの集約コスト関数の最小化点に同じ点に収束する。
• 2f冗長性条件のもとで収束が証明され、この設定においてf-耐性を達成するにはこの条件が必要であることが示された。
• アルゴリズムは $ \sum_{t=0}^\infty \eta_t \|x^t_i - x^*\|^2 < \infty $ を満たし、これはすべての非故障エージェントiについて $ \|x^t_i - x^*\| \to 0 $ が $ t \to \infty $ のとき成り立つことを意味する。
• 収束証明は、$ \sum \Omega^t $ と $ V^\infty $ の有界性、および $ \sum \eta_t $ の発散を用いた背理法に依拠しており、$ \lim_{t\to\infty} V^t = 0 $ を示す。
• 従来の近似故障耐性アプローチより広い範囲の高次元凸最適化問題に適用可能である。
• アルゴリズムは決定論的であり、提示された仮定のもとでコンセンサスと正当性を保証するが、確率的保証に依存しない。