[論文レビュー] Blockchain-based Monitoring for Poison Attack Detection in Decentralized Federated Learning

Ranwa Al Mallah, David López|arXiv (Cornell University)|Sep 30, 2022

Privacy-Preserving Technologies in Data被引用数 4

ひとこと要約

本稿では、分散型フェデレーテッドラーニングにおけるポisoning攻撃防御のためのブロックチェーンベースで、監視と検出を分離したアーキテクチャを提案する。監視（minersMONを介して）と学習／検出（minersFLを介して）を並列化することで、エンドツーエンドの遅延を低減し、スケーラビリティと耐障害性を向上させるとともに、最小限の性能低下で複数攻撃者環境下でも信頼性の高いモデル集約を実現する。

ABSTRACT

Federated Learning (FL) is a machine learning technique that addresses the privacy challenges in terms of access rights of local datasets by enabling the training of a model across nodes holding their data samples locally. To achieve decentralized federated learning, blockchain-based FL was proposed as a distributed FL architecture. In decentralized FL, the chief is eliminated from the learning process as workers collaborate between each other to train the global model. Decentralized FL applications need to account for the additional delay incurred by blockchain-based FL deployments. Particularly in this setting, to detect targeted/untargeted poisoning attacks, we investigate the end-to-end learning completion latency of a realistic decentralized FL process protected against poisoning attacks. We propose a technique which consists in decoupling the monitoring phase from the detection phase in defenses against poisoning attacks in a decentralized federated learning deployment that aim at monitoring the behavior of the workers. We demonstrate that our proposed blockchain-based monitoring improved network scalability, robustness and time efficiency. The parallelization of operations results in minimized latency over the end-to-end communication, computation, and consensus delays incurred during the FL and blockchain operations.

研究の動機と目的

• ブロックチェーンを統合した分散型フェデレーテッドラーニング（FL）において、ポーション攻撃検出を統合することで生じる高いエンドツーエンド遅延を解消すること。
• 従来のFLにおける中央集権的調整のボトルネックを解消し、チーフノードを排除してピアツーピア協働を可能にすること。
• ブロックチェーンで保護されたFLアーキテクチャにおいて、監視と検出フェーズを分離することで、システムの耐障害性とスケーラビリティを向上させること。
• リソース制限のあるデバイス（例：IoTやモバイルノード）を想定した分散環境において、効率的で安全かつプライバシーを守ったモデル学習を実現すること。
• 学習パイプラインに影響を与えることなく、悪意あるノードをフィルタリングできる動的でリアルタイムのワーカー行動評価を可能にすること。

提案手法

• 専用のブロックチェーンマイナー（minersMON および minersFL）を用いて、監視フェーズ（ワーカーの行動追跡）を検出および学習フェーズから分離する。
• ブロックチェーンを不変で信頼性のいらないログとして活用し、ローカルモデル更新およびワーカー行動パターンの記録と検証を行う。
• minersMONに、反復処理全体にわたってワーカー行動を継続的に監視させ、フィルタリング済みで信頼性の高いノードプールを維持させる。
• minersFLは、事前に検証済みの信頼性の高いノード集合から独立して選択し、リアルタイム監視による遅延を回避する。
• 監視と学習処理の並列実行を活用し、通信、計算、コンセンサスの遅延を最小限に抑える。
• 集約後に、検証済みのグローバルモデル更新をブロックチェーンに追加するコンセンサスメカニズムを実装し、データの整合性と透明性を確保する。

実験結果

リサーチクエスチョン

• RQ1 リアルタイムのポーション攻撃検出を統合した分散型フェデレーテッドラーニングにおいて、エンドツーエンド遅延をどのように最小化できるか？
• RQ2 ブロックチェーンで保護されたFL環境において、監視と検出フェーズを分離することで、システムのスケーラビリティと耐障害性にどのような影響を与えるか？
• RQ3 複数のポーション攻撃者環境下で、提案フレームワークの性能はどのように変化するか。また、低遅延と高い精度を維持できるか？
• RQ4 本アプローチは、スマートフォンやIoTノードなどのリソース制限のあるデバイスに効率的に展開可能か？
• RQ5 逐次的かつチーフ依存のモデルと比較して、監視と学習処理の並列化が、全体のシステム遅延をどの程度低減できるか？

主な発見

• 提案された分離型監視および検出フレームワークにより、監視と学習タスクの並列実行が可能となり、エンドツーエンドの学習完了遅延が顕著に短縮された。
• 複数攻撃者環境下でも収束時間が短く保たれ、ネットワークサイズ（3、6、9ノード）の変動に対しても耐障害性とスケーラビリティを示した。
• 監視と学習の責任が明確に分離されているため、ノード数の増加に伴って遅延が安定的かつ最小限に保たれた。
• 攻撃者数に依存しない技術的特性を有しており、1人または2人の攻撃者が存在する状況でも一貫した性能を示した。
• ブロックチェーンベースの設計により、モデル更新およびワーカー行動の安全でプライバシー保護された、透明なログ記録が可能となり、動的信頼評価を支援した。
• モバイルやIoTノードなどの低リソースデバイスへの展開が可能であり、適切なマイナー割り当てにより、エネルギーと帯域幅の最適化が見込める。