[论文解读] Clustering Algorithm to Detect Adversaries in Federated Learning

Krishna Yadav, Brij B. Gupta|arXiv (Cornell University)|Feb 22, 2021

Privacy-Preserving Technologies in Data参考文献 7被引用 4

一句话总结

本文提出一种轻量级聚类方法，用于检测物联网系统联邦学习中的恶意客户端。通过分析客户端梯度，无需客户端计算或高带宽，该方法在40%的客户端为攻击者的情况下，仍能实现高达99%的全局模型准确率，确保了在资源受限设备上的鲁棒性和可行性。

ABSTRACT

In recent times, federated machine learning has been very useful in building intelligent intrusion detection systems for IoT devices. As IoT devices are equipped with a security architecture vulnerable to various attacks, these security loopholes may bring a risk during federated training of decentralized IoT devices. Adversaries can take control over these IoT devices and inject false gradients to degrade the global model performance. In this paper, we have proposed an approach that detects the adversaries with the help of a clustering algorithm. After clustering, it further rewards the clients for detecting honest and malicious clients. Our proposed gradient filtration approach does not require any processing power from the client-side and does not use excessive bandwidth, making it very much feasible for IoT devices. Further, our approach has been very successful in boosting the global model accuracy, up to 99% even in the presence of 40% adversaries.

研究动机与目标

• 解决联邦学习在物联网环境中面临的漏洞，即攻击者可能注入虚假梯度。
• 在不给资源受限的物联网设备带来计算或带宽负担的前提下，检测恶意客户端。
• 通过识别并过滤恶意更新，在高比例攻击者的情况下提升全局模型准确率。
• 设计一种可扩展且高效的防御机制，适用于去中心化、隐私保护的物联网应用。

提出的方法

• 一种聚类算法根据梯度相似性对客户端更新进行分组，以识别代表潜在攻击者的异常值。
• 该方法仅在服务器端运行，避免在客户端增加任何额外处理或通信开销。
• 根据客户端的聚类行为对客户端进行排名和奖励，激励诚实参与。
• 聚类后应用梯度过滤，排除恶意更新后再进行全局模型聚合。
• 该方法无需模型微调或复杂密码学机制，确保计算成本极低。
• 系统设计与底层机器学习模型无关，兼容多种联邦学习框架。

实验结果

研究问题

• RQ1 基于聚类的方法是否能在不依赖客户端计算或高带宽使用的情况下，检测联邦学习中的恶意客户端？
• RQ2 当最多40%的客户端为攻击者时，所提出方法在保持全局模型准确率方面的有效性如何？
• RQ3 仅基于梯度模式，聚类机制是否能可靠地区分诚实客户端与恶意客户端？
• RQ4 基于聚类行为的奖励机制是否能提升联邦学习过程的整体可信度和鲁棒性？

主要发现

• 即使40%的参与客户端为攻击者，所提出方法仍能达到高达99%的全局模型准确率。
• 该防御机制未给客户端设备带来额外的计算或通信负载，适用于物联网部署。
• 基于聚类的检测方法通过分析梯度模式成功识别恶意客户端，无需模型微调或密码学验证。
• 聚类行为奖励机制增强了客户端合作，提升了联邦学习系统的抗毁性。