[论文解读] Security and Privacy Issues of Federated Learning

Jahid Hasan|arXiv (Cornell University)|Jul 22, 2023

Privacy-Preserving Technologies in Data被引用 13

一句话总结

本文提出了对联邦学习中安全与隐私挑战的全面分类法，详细描述了聚合者和参与者的攻击（投毒、后门、成员推断、基于GAN的攻击、差分隐私攻击）并讨论防御策略与未来研究方向。

ABSTRACT

Federated Learning (FL) has emerged as a promising approach to address data privacy and confidentiality concerns by allowing multiple participants to construct a shared model without centralizing sensitive data. However, this decentralized paradigm introduces new security challenges, necessitating a comprehensive identification and classification of potential risks to ensure FL's security guarantees. This paper presents a comprehensive taxonomy of security and privacy challenges in Federated Learning (FL) across various machine learning models, including large language models. We specifically categorize attacks performed by the aggregator and participants, focusing on poisoning attacks, backdoor attacks, membership inference attacks, generative adversarial network (GAN) based attacks, and differential privacy attacks. Additionally, we propose new directions for future research, seeking innovative solutions to fortify FL systems against emerging security risks and uphold sensitive data confidentiality in distributed learning environments.

研究动机与目标

• 在不同的机器学习模型中识别并分类联邦学习的安全与隐私风险。
• 提供聚合者和参与者攻击的分类法。
• 综述防御机制及未来研究方向，以提升FL的安全性和隐私性。

提出的方法

• 对现有关于FL安全与隐私的文献进行综述，以对攻击向量进行分类。
• 描述包括投毒、后门、成员推断、基于GAN的攻击以及差分隐私攻击在内的攻击模型。
• 讨论缓解技术以及如区块链和可信执行环境等潜在整合。

实验结果

研究问题

• RQ1 从聚合者和参与者的角度看，联邦学习面临的主要安全与隐私威胁是什么？
• RQ2 FL系统如何防御投毒、后门、成员推断、基于GAN的攻击以及差分隐私攻击？
• RQ3 哪些未来的研究方向可以强化FL的安全性并保护数据机密性？

主要发现

• 覆盖投毒、后门、成员推断、基于GAN的攻击以及差分隐私攻击的FL安全与隐私挑战的分类。
• 讨论缓解技术，如数据清洗、鲁棒聚合、模型剪枝、差分隐私以及安全架构等。
• 将区块链与可信执行环境作为提升FL安全性的潜在途径进行考虑。
• 强调在隐私保证、模型性能与监管考量之间取得平衡的必要性。