[論文レビュー] Zeno: Byzantine-suspicious stochastic gradient descent.

Cong Xie, Oluwasanmi Koyejo+1 more|arXiv (Cornell University)|May 25, 2018

Stochastic Gradient Optimization Techniques参考文献 16被引用数 38

ひとこと要約

Zenoは、分散SGDにおける悪意あるワーカーを検出・緩和するためにランクベースの好み機構を用いた、Byzantine懐疑的確率的勾配降下法集約ルールを提案する。これは任意の数のByzantineワーカーが存在する場合でも収束を保証し、1人の誠実なワーカーさえあれば十分であり、さまざまな攻撃において先行研究を上回る性能を発揮する。

ABSTRACT

We propose Zeno, a new robust aggregation rule, for distributed synchronous Stochastic Gradient Descent~(SGD) under a general Byzantine failure model. The key idea is to suspect the workers that are potentially malicious, and use a ranking-based preference mechanism. This allows us to generalize beyond past work--in our case, the number of malicious workers can be arbitrarily large, and we use only the weakest assumption on honest workers~(at least one honest worker). We prove the convergence of SGD under these scenarios. Empirical results show that Zeno outperforms existing approaches under various attacks.

研究の動機と目的

• 悪意あるワーカーがモデル学習を妨害する分散確率的勾配降下法におけるByzantine障害の課題に対処すること。
• 悪意あるワーカーの数に上限を要するか、誠実ワーカーに関する強い仮定を必要とする先行手法の制限を克服すること。
• 一般のByzantine障害モデル下でも収束性とパフォーマンスを維持できる頑健な集約ルールを設計すること。
• 誠実ワーカーの割合に関する強い仮定に依存せずに、悪意ある行動に対して耐性のある分散学習システムの実用的導入を可能にすること。

提案手法

• 各ワーカーの勾配更新に基づいて、悪意ある可能性のあるワーカーを特定・疑わせるランクベースの好み機構を導入する。
• ワーカー間の勾配を比較する好みスコアリングシステムを用いて、Byzantine行動を示す外れ値を同定する。
• 疑わしい勾配を除外または重みを低下させる集約ルールを設計し、収束保証を維持する。
• 任意の数の悪意あるワーカーが存在するByzantine障害モデル下でのSGDの収束を形式的に定式化する。
• 少なくとも1人のワーカーが誠実であるという最小限の仮定に依存することで、実世界の設定における頑健性を確保する。
• 悪意あるワーカーの数に制約を設けないことで先行研究を一般化し、多様な攻撃パターン下でも性能を維持する。

実験結果

リサーチクエスチョン

• RQ1 悪意あるワーカーの数が無制限であっても有効に機能する分散SGDのための頑健な集約ルールを設計できるか？
• RQ2 攻撃行動の事前知識がなければ得られない状況で、好みベースのランク付け機構が悪意ある勾配をどのように検出できるか？
• RQ3 たとえば1人の誠実ワーカーしか存在しないという最小限の仮定下で、分散SGDにおける収束をどの程度保証できるか？
• RQ4 さまざまな悪意ある攻撃シナリオ下で、提案手法は既存の頑健な集約ルールと比べてどのように性能を発揮するか？
• RQ5 洗練されたByzantine攻撃が存在する状況でも、モデルの精度と学習の安定性を維持できるか？

主な発見

• Zenoは、悪意あるワーカーの数が任意に大きくても、確率的勾配降下法の収束を保証する。
• 本手法は、最も弱い仮定である「少なくとも1人の誠実なワーカーが存在する」ことを前提としており、実世界のシステムへの適用可能性を高める。
• 実験的評価により、Zenoは複数の攻撃タイプおよび悪意ある影響の度合いが異なる状況下で、既存の頑健な集約ルールを上回ることが示された。
• 事前知識のない状況下でも、ランクベースの好み機構は悪意ある勾配を効果的に同定・緩和できる。
• 非i.i.d.データや悪意ある勾配操作が存在する多様な実験設定において、Zenoは高いモデル精度と学習の安定性を維持した。
• 悪意あるワーカーの数に制約を設けないことで、先行研究を一般化し、分散型および悪意ある学習環境における広範な適用性を実現した。