[論文レビュー] Byzantine-resilient Decentralized Stochastic Gradient Descent

Shangwei Guo, Tianwei Zhang+5 more|arXiv (Cornell University)|Feb 20, 2020

Privacy-Preserving Technologies in Data参考文献 51被引用数 5

ひとこと要約

本稿では、分散型確率的勾配降下法における、悪意ある更新をフィルタリングし、任意のByzantine攻撃に対してもモデルの正しさを維持できる、新しいByzantine耐性アグリゲーションルールUbarを提案する。Ubarは低コストの計算負荷で強力な耐性を実現し、さまざまな攻撃タイプやシステム構成において、既存手法を上回る収束性と耐性を示す。

ABSTRACT

Decentralized learning has gained great popularity to improve learning efficiency and preserve data privacy. Each computing node makes equal contribution to collaboratively learn a Deep Learning model. The elimination of centralized Parameter Servers (PS) can effectively address many issues such as privacy, performance bottleneck and single-point-failure. However, how to achieve Byzantine Fault Tolerance in decentralized learning systems is rarely explored, although this problem has been extensively studied in centralized systems. In this paper, we present an in-depth study towards the Byzantine resilience of decentralized learning systems with two contributions. First, from the adversarial perspective, we theoretically illustrate that Byzantine attacks are more dangerous and feasible in decentralized learning systems: even one malicious participant can arbitrarily alter the models of other participants by sending carefully crafted updates to its neighbors. Second, from the defense perspective, we propose UBAR, a novel algorithm to enhance decentralized learning with Byzantine Fault Tolerance. Specifically, UBAR provides a Uniform Byzantine-resilient Aggregation Rule for benign nodes to select the useful parameter updates and filter out the malicious ones in each training iteration. It guarantees that each benign node in a decentralized system can train a correct model under very strong Byzantine attacks with an arbitrary number of faulty nodes. We conduct extensive experiments on standard image classification tasks and the results indicate that UBAR can effectively defeat both simple and sophisticated Byzantine attacks with higher performance efficiency than existing solutions.

研究の動機と目的

• 分散学習システムにおいて、中央のパラメータサーバーが存在しない状況でのByzantine攻撃の実現可能性と深刻さを調査すること。
• 中央集権的システムとは異なり、分散学習におけるByzantineフォールトトレランスメカニズムの欠如に対処すること。
• ネットワーク内に任意の数のByzantineノードが存在しても、正しくモデル学習を保証する防御メカニズムを設計すること。
• 悪意ある更新をフィルタリングしながら、高いパフォーマンスを維持する効率的なアグリゲーションルールを設計すること。
• さまざまな攻撃モデルとシステム構成下での、提案手法の耐性と効率を評価すること。

提案手法

• Ubarは、各良性ノードが局所的な近隣ノードとの比較に基づいて悪意あるパラメータ更新を同定・フィルタリングできる一様なByzantine耐性アグリゲーションルールを導入する。
• ノードのモデル更新とその近隣ノードの更新との差分を計算することで、Byzantine行動を示す外れ値を検出・除外する。
• 先行研究のByzantine防御文脈で一般的な仮定である、良性ノードの割合（$\rho_i$）の知識を用いて、耐性のしきい値を設定する。
• 各学習イテレーションで動作し、多数の近隣ノードが侵害済みであっても、ノードが協力的に正しいモデルを学習できる。
• DKrum や DBulyan とは異なり、すべての近隣ノード間のペアワイズ距離比較を避けることで、計算効率を高めている。
• グローバルな調整やモデル再構築を必要とせず、局所的な一貫性チェックによって悪意ある更新を検出する。

実験結果

リサーチクエスチョン

• RQ1 分散学習システムにおけるByzantine攻撃の深刻さと実現可能性は、中央集権的システムと比較してどの程度か？
• RQ2 中央集権的システムで使用されている既存のByzantine耐性防御が、分散学習環境に直接適用可能か？
• RQ3 単一の悪意あるノードがグローバルモデルを任意に変更できる分散システムの主な脆弱性は何か？
• RQ4 任意の数のByzantineノードが存在する状況でも、分散システムがモデルの正しさと収束性を維持できるか？
• RQ5 さまざまな攻撃タイプにおいて、提案防御Ubarは、既存の最先端防御と比較して耐性と効率の面でどのように差をつけるか？

主な発見

• Ubarは、Mhamdi攻撃を含む単純および高度なByzantine攻撃を効果的に防ぐ。Mhamdi攻撃は、中央集権的システムで一般的な既存防御を回避できるが、Ubarでは効果的に抑制される。
• CIFAR-10およびMNISTにおいて、Ubarは50%のByzantine比率でもベースラインと同等の収束性能を維持するが、すべてのベースラインは同条件で収束に失敗する。
• ビット反転攻撃では、UbarはすべてのByzantine比率でベースラインと同等の性能を示し、絶対的な耐性を示す。一方、Dmedian や DBulyan は0.3を超える比率で収束に失敗する。
• Ubarは、局所的比較メカニズムのおかげで、DKrum より8倍速く、DBulyan より30倍速いアグリゲーション時間を持つ。
• BRIDGE や Dmedian は、高比率のByzantineノード（例：CIFAR-10で0.1）下で収束が著しく劣るが、Ubarはすべてのテスト構成で安定した性能を維持する。
• Ubarは、許容可能な計算コストで強力なByzantine耐性を実現し、評価された防御手法の中で耐性と効率の観点で最適である。