[论文解读] SIFU: Sequential Informed Federated Unlearning for Efficient and Provable Client Unlearning in Federated Optimization

Yann Fraboni, Martin Van Waerebeke+4 more|arXiv (Cornell University)|Nov 21, 2022

Stochastic Gradient Optimization Techniques被引用 4

一句话总结

该论文提出SIFU，一种新颖的联邦遗忘框架，通过从联邦学习历史中识别最优重新初始化点并应用客户端特定的随机扰动，实现高效且可证明的客户端贡献遗忘。该方法无需计算Hessian矩阵或共享客户端数据，即可实现强遗忘保证，在收敛速度上优于微调和最先进方法，且适用于凸与非凸设置。

ABSTRACT

Machine Unlearning (MU) is an increasingly important topic in machine learning safety, aiming at removing the contribution of a given data point from a training procedure. Federated Unlearning (FU) consists in extending MU to unlearn a given client's contribution from a federated training routine. While several FU methods have been proposed, we currently lack a general approach providing formal unlearning guarantees to the FedAvg routine, while ensuring scalability and generalization beyond the convex assumption on the clients' loss functions. We aim at filling this gap by proposing SIFU (Sequential Informed Federated Unlearning), a new FU method applying to both convex and non-convex optimization regimes. SIFU naturally applies to FedAvg without additional computational cost for the clients and provides formal guarantees on the quality of the unlearning task. We provide a theoretical analysis of the unlearning properties of SIFU, and practically demonstrate its effectiveness as compared to a panel of unlearning methods from the state-of-the-art.

研究动机与目标

• 解决现有可证明、可扩展的联邦遗忘方法在非凸损失函数下失效的问题。
• 在无需访问客户端数据或计算昂贵Hessian矩阵的前提下，实现客户端贡献的遗忘。
• 在多个客户端连续提交遗忘请求的场景下，提供形式化的遗忘保证。
• 相比完整微调，降低遗忘成本，同时保持未学习客户端的模型精度。
• 构建一种理论框架，无需强凸性或梯度近似等强假设，即可对联邦学习中的客户端贡献进行量化。

提出的方法

• SIFU通过追踪训练轮次中客户端贡献范数，识别最优联邦学习迭代点以进行重新初始化。
• 收到遗忘请求后，服务器从识别出的迭代点恢复中间全局模型，最大限度减少微调开销。
• 在选定模型上应用具有客户端特定噪声的随机扰动机制，以确保可证明的遗忘保证。
• 通过SIFU扩展IFU以支持连续遗忘，同时在多次请求下保持遗忘保证。
• 利用梯度范数量化客户端贡献，无需额外计算或通信开销，实现高可扩展性。
• 理论分析仅依赖平滑性假设，避免使用强凸性、Hessian计算或梯度近似。

实验结果

研究问题

• RQ1 在凸与非凸优化场景下，能否实现具有可证明保证的联邦遗忘？
• RQ2 如何在不进行完整微调或访问客户端数据的前提下，实现高效的遗忘？
• RQ3 在联邦学习历史中，应选择哪个最优重新初始化点，以在确保遗忘正确性的前提下最小化遗忘成本？
• RQ4 如何在保持遗忘保证的前提下，处理来自多个客户端的连续遗忘请求？
• RQ5 能否在不增加额外计算或通信开销的前提下，高效量化客户端贡献？

主要发现

• SIFU在未学习客户端的模型精度方面，与完整微调（Scratch）相当，但所需聚合轮次显著更少。
• 与完整微调相比，SIFU将遗忘成本降低了约一半，在保持相似遗忘效果的同时实现更快收敛。
• 在遗忘精度与收敛速度方面，SIFU优于微调、FedAccum和基于差分隐私的方法。
• 当噪声扰动幅度σ较小时，SIFU表现类似Scratch（从初始模型重新训练）；当σ较大时，则类似Last（从最终模型进行遗忘）。
• 基于水印的验证结果表明，SIFU与Scratch的遗忘性能几乎完全一致，验证了所提方法的有效性。
• 即使在连续遗忘请求下，SIFU仍能保持强遗忘保证，其理论基础仅基于平滑性假设，避免了先前工作中依赖的强假设。