[论文解读] WinFLoRA: Incentivizing Client-Adaptive Aggregation in Federated LoRA under Privacy Heterogeneity

Mengsha Kou, Xiaoyu Xia+5 more|arXiv (Cornell University)|Feb 1, 2026

Privacy-Preserving Technologies in Data被引用 0

一句话总结

WinFLoRA 引入一个噪声感知、基于权重的激励机制，用于联邦 LoRA，协调异质客户端的隐私偏好与全局模型质量，在没有第三方的情况下提升全局准确率与客户端效用。它从上传的适配器中估计每个客户端的 DP 噪声，并在聚合时对低噪声更新进行再加权。

ABSTRACT

Large Language Models (LLMs) increasingly underpin intelligent web applications, from chatbots to search and recommendation, where efficient specialization is essential. Low-Rank Adaptation (LoRA) enables such adaptation with minimal overhead, while federated LoRA allows web service providers to fine-tune shared models without data sharing. However, in privacy-sensitive deployments, clients inject varying levels of differential privacy (DP) noise, creating privacy heterogeneity that misaligns individual incentives and global performance. In this paper, we propose WinFLoRA, a privacy-heterogeneous federated LoRA that utilizes aggregation weights as incentives with noise awareness. Specifically, the noises from clients are estimated based on the uploaded LoRA adapters. A larger weight indicates greater influence on the global model and better downstream task performance, rewarding lower-noise contributions. By up-weighting low-noise updates, WinFLoRA improves global accuracy while accommodating clients' heterogeneous privacy requirements. Consequently, WinFLoRA aligns heterogeneous client utility in terms of privacy and downstream performance with global model objectives without third-party involvement. Extensive evaluations demonstrate that across multiple LLMs and datasets, WinFLoRA achieves up to 52.58% higher global accuracy and up to 2.56x client utility than state-of-the-art benchmarks. Source code is publicly available at https://github.com/koums24/WinFLoRA.git.

研究动机与目标

• 在联邦 LoRA 设置中推动高效的 LLM 专精，同时保护客户端隐私。
• 通过使单个客户端的激励与全局模型性能对齐来解决隐私异质性问题。
• 开发一种噪声感知的聚合机制，激励高质量、低噪声更新。
• 提供一个分析客户端互动为随机聚合博弈并展示均衡性质的框架。
• 在多种模型与数据集上评估该方法以展示性能提升。

提出的方法

• 直接从上传的 LoRA 适配器中使用 leave-one-out PCA (LOO-PCA) 估计每个客户端的 DP 噪声。
• 计算聚合权重，与估计噪声成反比并归一化使和为一。
• 将聚合 formulated 为对全局 LoRA 更新与模型的加权更新。
• 引入使用基于 UCB 的策略的 Individual Noise Adaptation (INA)，以选择每轮的噪声尺度。
• 将服务器-客户端交互建模为随机聚合马尔可夫博弈并讨论静态均衡存在性。
• 在 TinyLlama 与 GPT2-Large 对 AGNews、DBpedia 以及 20Newsgroups 的广泛实验，与基线对比。

实验结果

研究问题

• RQ1 如何通过聚合激励来缓解由异质隐私噪声导致的全球性能下降？
• RQ2 在隐私异质性下，是否可以通过噪声感知的基于权重的聚合方案在不使用外部支付的情况下提升全局模型准确率？
• RQ3 客户端如何在联邦 LoRA 设置中随时间调整其噪声水平以最大化长期效用？
• RQ4 在这个背景下，所提出的随机聚合博弈的理论与经验性质是什么？
• RQ5 所提出的方法是否在不同模型规模与数据集上具有普适性？

主要发现

• 与最先进基准相比，WinFLoRA 的全局准确率最高提升达 52.58%。
• 客户端平均效用相较基线提升高达 2.56x。
• 噪声感知权重倾向放大低噪声更新，提升全球性能与收敛性。
• 带 UCB 的 INA 引导客户端在尊重隐私偏好的前提下趋向于效用最大化的噪声水平。
• NWA（噪声感知权重）显著提升不同模型和数据集上的收敛速度和最终准确率。
• WinFLoRA 能在兼顾多样隐私设置的同时维持较高的平均效用。