[論文レビュー] PPBFL: A Privacy Protected Blockchain-based Federated Learning Model

Yang Li, Chunhe Xia+2 more|arXiv (Cornell University)|Jan 2, 2024

Privacy-Preserving Technologies in Data被引用数 5

ひとこと要約

PPBFLは、連合学習をブロックチェーンと差分プライバシーと組み合わせて、局所およびグローバルモデルのプライバシーを保護し、参加を促進し、ノードの識別を不明瞭にする。

ABSTRACT

With the rapid development of machine learning and a growing concern for data privacy, federated learning has become a focal point of attention. However, attacks on model parameters and a lack of incentive mechanisms hinder the effectiveness of federated learning. Therefore, we propose A Privacy Protected Blockchain-based Federated Learning Model (PPBFL) to enhance the security of federated learning and encourage active participation of nodes in model training. Blockchain technology ensures the integrity of model parameters stored in the InterPlanetary File System (IPFS), providing protection against tampering. Within the blockchain, we introduce a Proof of Training Work (PoTW) consensus algorithm tailored for federated learning, aiming to incentive training nodes. This algorithm rewards nodes with greater computational power, promoting increased participation and effort in the federated learning process. A novel adaptive differential privacy algorithm is simultaneously applied to local and global models. This safeguards the privacy of local data at training clients, preventing malicious nodes from launching inference attacks. Additionally, it enhances the security of the global model, preventing potential security degradation resulting from the combination of numerous local models. The possibility of security degradation is derived from the composition theorem. By introducing reverse noise in the global model, a zero-bias estimate of differential privacy noise between local and global models is achieved. Furthermore, we propose a new mix transactions mechanism utilizing ring signature technology to better protect the identity privacy of local training clients. Security analysis and experimental results demonstrate that PPBFL, compared to baseline methods, not only exhibits superior model performance but also achieves higher security.

研究の動機と目的

• 局所データとモデルパラメータを保護することによって、連合学習における推論攻撃に対処する。
• ブロックチェーンをベースとしたコンセンサスメカニズムを通じて、局所トレーニングノードの積極的な参加を奨励する。
• モデル更新の透明性とトレーサビリティを維持しつつ、局所トレーニングクライアントの身元プライバシーを保護する。
• ストレージと伝送コストを低減しつつ、ブロックチェーンによる整合性を維持するためにIPFSを活用する。
• プライバシーを損なうことなくモデル性能を維持するために、適応的差分プライバシーとリバースDPを提案する。

提案手法

• CIDを介して局所/グローバルモデルを保存するための、プライバシーを保護するブロックチェーンフレームワークとIPFSを連携させる。
• 局所モデルとグローバルモデルのノイズを相反する方向に追加するデュアル適応的ローカル差分プライバシーを適用し、組成効果に対抗する。
• 前のグローバルモデルを中心としてウェイト更新を配置し、ε-LDP保証を維持するようノイズを調整する適応的DPスキームを導入する。
• ローカルトレーニングノードの身元を取引中に隠すためのリング署名ベースのミキシングCID機構を使用する。
• Aggregationノードの選択と参加を促進するために、トレーニング速度に基づいてパッケージ化を行い、 federation-awareなコンセンサスとしてPoTWを提案する。
• 複数のCIDを単一の取引で集約して取引の匿名性を実現するミキシングCID機構を実装する。

実験結果

リサーチクエスチョン

• RQ1 PPBFLは、局所およびグローバルモデルのパラメータに対する推論攻撃からどのように防御できるか？
• RQ2 多くのクライアントがいる連合設定でε-LDP保証を維持するために、差分プライバシーを適応的に適用するにはどうすればよいか？
• RQ3 透明なブロックチェーンベースのFLシステムでノード識別プライバシーをどう保護できるか？
• RQ4 連合学習タスクにおける局所トレーニングノードの積極的な参加を効果的に動機づけるインセンティブ機構は何か？

主な発見

• PPBFLはデュアル適応的差分プライバシーにより局所モデルとグローバルモデルの両方を保護することで、より高いセキュリティを実現する。
• IPFS CIDストレージはブロックチェーンのストレージ負荷を軽減し、ブロックチェーンによる整合性を維持しつつ伝送効率を改善する。
• リング署名ベースのミキシングCID機構は取引中の局所ノードの身元プライバシーを強化する。
• 提案されたPoTWコンセンサスはトレーニング速度に基づく集約とパッケージ化を奨励し、参加を促進する。
• セキュリティ分析と実験は、PPBFLがベースラインよりもセキュリティとモデル性能の両方で改善を示すことを示している。