[論文レビュー] Security and Privacy Issues of Federated Learning

Jahid Hasan|arXiv (Cornell University)|Jul 22, 2023

Privacy-Preserving Technologies in Data被引用数 13

ひとこと要約

本論文は連邦学習におけるセキュリティとプライバシー課題の包括的な分類を提示し、集計者と参加者による攻撃（毒化、バックドア、メンバーシップ推定、GANベース、差分プライバシー攻撃）を詳述し、防御戦略と今後の研究方向を論じる。

ABSTRACT

Federated Learning (FL) has emerged as a promising approach to address data privacy and confidentiality concerns by allowing multiple participants to construct a shared model without centralizing sensitive data. However, this decentralized paradigm introduces new security challenges, necessitating a comprehensive identification and classification of potential risks to ensure FL's security guarantees. This paper presents a comprehensive taxonomy of security and privacy challenges in Federated Learning (FL) across various machine learning models, including large language models. We specifically categorize attacks performed by the aggregator and participants, focusing on poisoning attacks, backdoor attacks, membership inference attacks, generative adversarial network (GAN) based attacks, and differential privacy attacks. Additionally, we propose new directions for future research, seeking innovative solutions to fortify FL systems against emerging security risks and uphold sensitive data confidentiality in distributed learning environments.

研究の動機と目的

• さまざまな機械学習モデルにわたる連邦学習のセキュリティとプライバシーリスクを特定し、分類する。
• 集計者と参加者による攻撃の分類法を提供する。
• FLのセキュリティとプライバシーを強化する防御メカニズムと今後の研究方向を調査する。

提案手法

• FLのセキュリティとプライバシーに関する既存文献を調査して攻撃ベクトルを分類する。
• 毒化、バックドア、メンバーシップ推定、GANベース、差分プライバシー攻撃を含む攻撃モデルの説明。
• 軽減技術とブロックチェーンや信頼済み実行環境（TEE）などの潜在的な統合について議論する。

実験結果

リサーチクエスチョン

• RQ1 集計者と参加者の視点から見る連邦学習の主なセキュリティとプライバシーの脅威は何か？
• RQ2 毒化、バックドア、メンバーシップ推定、GANベース、差分プライバシー攻撃に対してFLシステムはどのように防御できるか？
• RQ3 データ機密性を保ちつつFLのセキュリティを強化できる将来の研究方向は何か？

主な発見

• 毒化、バックドア、メンバーシップ推定、GANベース、差分プライバシー攻撃を網羅するFLのセキュリティとプライバシー課題の分類法。
• データサニタイズ、堅牢な集約、モデルプルーニング、差分プライバシー、セキュアなアーキテクチャなどの緩和技術の議論。
• FLセキュリティの潜在的な強化としてブロックチェーンと信頼済み実行環境の検討。
• プライバシー保護の保証とモデル性能および規制上の配慮のバランスの必要性を強調。