[論文レビュー] Byzantine-Robust Decentralized Learning via ClippedGossip

Lie He, Sai Praneeth Karimireddy+1 more|arXiv (Cornell University)|Feb 3, 2022

Privacy-Preserving Technologies in Data被引用数 4

ひとこと要約

この論文は、任意の通信グラフ上で非凸目的関数に対して、$ \mathcal{O}(\delta_{\max}\zeta^{2}/\gamma^{2})$ の近傍の定常点への確実な収束を達成する、Byzantine耐性を備えた分散型学習アルゴリズムであるClippedGossipを提案する。この手法は、局所的なクリッピングとゴッサーウェイジングを組み合わせることで、悪意あるワーカーに対する防御を実現しつつ、敵対的状況下でも高速な収束速度を維持する。

ABSTRACT

In this paper, we study the challenging task of Byzantine-robust decentralized training on arbitrary communication graphs. Unlike federated learning where workers communicate through a server, workers in the decentralized environment can only talk to their neighbors, making it harder to reach consensus and benefit from collaborative training. To address these issues, we propose a ClippedGossip algorithm for Byzantine-robust consensus and optimization, which is the first to provably converge to a $O(δ_{\max}ζ^2/γ^2)$ neighborhood of the stationary point for non-convex objectives under standard assumptions. Finally, we demonstrate the encouraging empirical performance of ClippedGossip under a large number of attacks.

研究の動機と目的

• ワーカーが隣人とのみ通信し、中央サーバーが存在しない任意の通信グラフにおいて、Byzantine耐性を備えた分散型学習を実現すること。
• 従来の手法が要求する高密度な接続性や、誠実な多数派の仮定、収束保証の欠如といった制限を克服すること。
• 通信グラフのスペクトルギャップ$\gamma$とByzantineワーカーの最大数$\delta_{\max}$に基づく、より広範なグラフトポロジーに適用可能な新しいネットワーク耐性基準を確立すること。
• 標準的な仮定の下で、耐性を備えた分散型確率的非凸最適化のための、初めての確実な収束レートを提供すること。
• 局所的モーメンタムを組み込むことで、非耐性分散SGDの収束速度を向上させること。

提案手法

• ClippedGossipは各イテレーションで3段階のプロセスを実行する：(1) ワーカーが隣人からモデルを収集し、(2) 自分のモデルを中心として半径$\tau_i^{t+1}$の範囲に隣人モデルをクリッピングして外れ値の影響を制限し、(3) クリッピング済みモデルに対してゴッサーウェイジングを実行する。
• クリッピングステップにより、任意に大きな影響を持つByzantine更新が制限され、合意形成プロセスに支配されにくくなる。
• ゴッサーウェイジングプロセスは混合行列を用いて定義され、ネットワーク全体に情報が広がりつつ耐性を保つ。
• スレクトルギャップ$\gamma$と最大Byzantineワーカー数$\delta_{\max}$に基づく、新たなネットワーク耐性基準が導入された。
• グローバルな誠実な多数派やセキュアブロードキャストを必要としないため、実世界の分散システムに適している。
• 非耐性設定においては、局所的モーメンタムを統合することで、先行研究を上回る高速な収束速度を達成する。

実験結果

リサーチクエスチョン

• RQ1 任意の通信グラフ上で、Byzantine攻撃下でも確実な収束を達成する分散型学習アルゴリズムを設計できるか？
• RQ2 通信グラフのスレクトルギャップ$\gamma$とByzantineワーカー数$\delta_{\max}$が、分散型学習の耐性および収束にどのように寄与するか？
• RQ3 局所的モーメンタムを組み込むことで、非耐性分散SGDの収束速度を向上させられるか？
• RQ4 現実的な攻撃モデル下で、ClippedGossipは従来手法と比較して収束速度と耐性の両面で優れているか？
• RQ5 Byzantineワーカーが情報伝達を妨害するように戦略的に配置された場合でも、ClippedGossipは合意を維持できるか？

主な発見

• ClippedGossipは、標準的な仮定の下で、非凸目的関数に対して、定常点の$ \mathcal{O}(\delta_{\max}\zeta^{2}/\gamma^{2})$ の近傍への確実な収束を達成する。
• 従来の手法が高密度な接続性や誠実な多数派を仮定するのに対し、本手法はスレクトルギャップ$\gamma$と$\delta_{\max}$に基づく新たな耐性基準を導入し、より広範なグラフクラスに適用可能である。
• 特に、誠実ワーカー間の不一致を拡大する「ディセンサス攻撃」下でも、既存手法を上回る収束速度と耐性を示す。
• トポロジーの特徴や勾配分散を悪用する強力なByzantine攻撃下でも、ClippedGossipは高速な収束を維持する。
• 局所的モーメンタムを用いることで、非耐性分散型確率的非凸最適化の分野で、これまでで最も速い収束速度$ \mathcal{O}(\frac{\sigma^{2}}{n\varepsilon^{2}} + \frac{\sigma^{2/3}}{\gamma^{2/3}\varepsilon^{4/3}})$ を確立した。
• 実験結果では、ClippedGossipはByzantineワーカーが存在する状況でも信頼性高く収束するが、TMのような従来手法はDumbbellのような一般的なトポロジー、あるいは非IIDデータ下では合意に到達できないことが示された。