[論文レビュー] Blockchain-Based Federated Learning in Mobile Edge Networks with Application in Internet of Vehicles

Rui Wang, Heju Li+1 more|arXiv (Cornell University)|Mar 1, 2021

Privacy-Preserving Technologies in Data参考文献 26被引用数 10

ひとこと要約

本稿では、モバイルエッジコンピューティング（MEC）と統合されたブロックチェーン保護型、微分プライバシー強化型フェデレーテッドラーニングフレームワークを提唱し、分散型モデル学習におけるプライバシー漏洩と悪意ある行動の問題に対処する。局所的微分プライバシー、悪意ある更新を検出する自己信頼性フィルタ、およびモデル品質を集約重みとして定量化したブロックチェーンベースの参加者管理システムを組み合わせることで、高い精度、サイン反転攻撃、同一値攻撃、バックドア攻撃に対する耐性、MEC対応ネットワークにおける二重集約メカニズムによるクラウド通信負荷の低減を実現する。

ABSTRACT

The rapid increase of the data scale in Internet of Vehicles (IoV) system paradigm, hews out new possibilities in boosting the service quality for the emerging applications through data sharing. Nevertheless, privacy concerns are major bottlenecks for data providers to share private data in traditional IoV networks. To this end, federated learning (FL) as an emerging learning paradigm, where data providers only send local model updates trained on their local raw data rather than upload any raw data, has been recently proposed to build a privacy-preserving data sharing models. Unfortunately, by analyzing on the differences of uploaded local model updates from data providers, private information can still be divulged, and performance of the system cannot be guaranteed when partial federated nodes executes malicious behavior. Additionally, traditional cloud-based FL poses challenges to the communication overhead with the rapid increase of terminal equipment in IoV system. All these issues inspire us to propose an autonomous blockchain empowered privacy-preserving FL framework in this paper, where the mobile edge computing (MEC) technology was naturally integrated in IoV system.

研究の動機と目的

• フェデレーテッドラーニングにおけるローカルモデル更新が機微な情報を露呈する可能性がある、IoVデータ共有におけるプライバシー漏洩を是正すること。
• グローバルモデルの収束を妨げる可能性がある、悪意ある参加者が汚染された勾配を注入するリスクを軽減すること。
• MECノードに集約処理をオフロードすることで、大規模IoVシステムにおける通信負荷を低減すること。
• 参加者信頼性とモデル更新品質の記録と検証をブロックチェーンで行い、フェデレーテッドラーニングにおける信頼性と責任の確保を図ること。
• 集約重みとして定量化されたモデル更新品質に基づく利益配分メカニズムにより、高品質なデータ寄与者をインcentivizeすること。

提案手法

• モデル更新にキャリブレートされたノイズを追加することで、(ε,δ)-微分プライバシーを満たし、メンバー推定攻撃から保護する局所的微分プライバシーを統合する。
• グローバルモデルのトレジェトリとの整合性に基づき、悪意あるモデル更新を検出し削除する自己信頼性フィルタを採用する。
• 二重集約フレームワークを設計：MECノードでのローカル集約と、中央サーバーでのグローバル集約により、クラウド通信負荷を低減する。
• ブロックチェーンを用いて、モデル更新、参加者ID、更新品質メトリクスを記録・不可逆的にログする。これにより、監査可能性を確保し、改ざんを防止する。
• モデル更新の品質を「集約重み」として定量化する——貢献の忠実度を測る指標であり、参加者間の利益配分を決定する根拠とする。
• 潜在的な外れ値が存在する状況において再重み付け集約を適用するが、攻撃比率が高くなる状況でも収束不能を防ぐために信頼性フィルタを強化する。

実験結果

リサーチクエスチョン

• RQ1 IoVシステムにおけるフェデレーテッドラーニングは、モデル勾配を操作するサイン反転攻撃および同一値攻撃に対して、どのようにして耐性を確保できるか？
• RQ2 微分プライバシーは、IoVアプリケーションにおいて、モデル精度を著しく低下させることなく、ユーザーのプライバシーをどの程度保護できるか？
• RQ3 ブロックチェーンベースの参加者管理システムは、分散型IoV環境において、モデル更新の不可逆性と追跡可能性を効果的に確保できるか？
• RQ4 MECに基づく提案された二重集約メカニズムは、従来のクラウド中心のFLと比較して、通信負荷をどの程度低減できるか？
• RQ5 品質に基づく利益配分メカニズムは、高品質なデータ寄与者をインセンティブ化でき、全体のモデル耐性を向上させられるか？

主な発見

• サイン反転攻撃が60％に達する状況でも、FedAvgは30％未満の精度にとどまるが、本手法は高い性能を維持し、FedAvgおよび再重み付け集約を上回る。
• 同一値攻撃において、再重み付け集約アルゴリズムは40％および60％の悪意ある攻撃者に対して収束に失敗し、10％の精度にとどまるのに対し、本手法は安定性を保つ。
• バックドア攻撃では、攻撃者割合が増加する中で50ラウンドの集約後でも、本手法は攻撃成功確率を9.54％にまで抑えることができ、FedAvgおよび再重み付け集約を著しく上回る。
• 本フレームワークは、さまざまな攻撃シナリオにおいて高いモデル精度と耐性を示し、データおよびモデルレベルの汚染攻撃に対して耐性があることを実証した。
• 二重集約メカニズムにより、MECノードにローカル集約をオフロードすることで通信負荷が低減され、大規模なIoV展開におけるスケーラビリティが向上した。
• ブロックチェーンベースのシステムにより、モデル更新記録の不可逆性が確保され、集約重みで定量化された貢献度に基づく透明かつ信頼性のない参加者貢献の検証が可能になった。