[論文レビュー] WinFLoRA: Incentivizing Client-Adaptive Aggregation in Federated LoRA under Privacy Heterogeneity

Mengsha Kou, Xiaoyu Xia+5 more|arXiv (Cornell University)|Feb 1, 2026

Privacy-Preserving Technologies in Data被引用数 0

ひとこと要約

WinFLoRA はノイズ対応型・重みベースのインセンティブ機構を導入し、異質なクライアントのプライバシー好みをグローバルモデルの品質と整合させることで、第三者を介さずにグローバル精度とクライアントの有用性を向上させる。アップロードされたアダプターから各クライアントの DP ノイズを推定し、集約時に低ノイズのアップデートを上方ウェイトする。

ABSTRACT

Large Language Models (LLMs) increasingly underpin intelligent web applications, from chatbots to search and recommendation, where efficient specialization is essential. Low-Rank Adaptation (LoRA) enables such adaptation with minimal overhead, while federated LoRA allows web service providers to fine-tune shared models without data sharing. However, in privacy-sensitive deployments, clients inject varying levels of differential privacy (DP) noise, creating privacy heterogeneity that misaligns individual incentives and global performance. In this paper, we propose WinFLoRA, a privacy-heterogeneous federated LoRA that utilizes aggregation weights as incentives with noise awareness. Specifically, the noises from clients are estimated based on the uploaded LoRA adapters. A larger weight indicates greater influence on the global model and better downstream task performance, rewarding lower-noise contributions. By up-weighting low-noise updates, WinFLoRA improves global accuracy while accommodating clients' heterogeneous privacy requirements. Consequently, WinFLoRA aligns heterogeneous client utility in terms of privacy and downstream performance with global model objectives without third-party involvement. Extensive evaluations demonstrate that across multiple LLMs and datasets, WinFLoRA achieves up to 52.58% higher global accuracy and up to 2.56x client utility than state-of-the-art benchmarks. Source code is publicly available at https://github.com/koums24/WinFLoRA.git.

研究の動機と目的

• フェデレーテッド LoRA 設定でクライアントのプライバシーを保ちながら LLM の効率的な専門化を促進する。
• プライバシー異質性に対処し、個々のクライアントのインセンティブをグローバルモデルの性能と整合させる。
• 高品質・低ノイズのアップデートを誘引するノイズ対応の集約機構を開発する。
• クライアントの相互作用を確率的な集約ゲームとして分析し、平衡特性を示す枠組みを提供する。
• 複数のモデルとデータセットでアプローチを評価し、性能向上を実証する。

提案手法

• uploaded LoRA アダプターを用いた Leave-One-Out PCA (LOO-PCA) で各クライアントの DP ノイズを直接推定する。
• 推定ノイズに反比例する集約ウェイトを計算し、総和が 1 になるよう正規化する。
• グローバルな LoRA 更新とモデルを形成するための重み付き更新として集約を定式化する。
• Per-round ノイズスケールを選択する UCB ベース戦略を用いた Individual Noise Adaptation (INA) を導入する。
• サーバー–クライアントの相互作用を確率的な集約型マルコフゲームとしてモデル化し、定常平衡の存在を議論する。
• Baselines と比較した TinyLlama および GPT2-Large を AGNews、DBpedia、20Newsgroups の広範な実験を提供する。

実験結果

リサーチクエスチョン

• RQ1 異質なプライバシーノイズによって生じるグローバル性能低下を緩和するため、集約をどのようにインセンティブ化できるか？
• RQ2 ノイズ対応・重みベースの集約スキームは、外部報酬なしでプライバシー異質性下のグローバルモデル精度を改善できるか？
• RQ3 フェデレーテッド LoRA 設定でクライアントは時間とともにノイズレベルをどのように適応させ、長期的な有用性を最大化するか？
• RQ4 本提案の確率的集約ゲームの理論的・実証的性質は何か？
• RQ5 提案されたアプローチは異なるモデルサイズやデータセットを横断して一般化するか？

主な発見

• WinFLoRA は最先端ベンチマークと比較してグローバル精度を最大で 52.58% 向上させる。
• 平均的なクライアント有用性はベースラインより最大で 2.56x 改善。
• ノイズ対応ウェイトは低ノイズ更新を優先的に増幅し、グローバル性能と収束を向上させる。
• INA と UCB により、プライバシーの嗜好を尊重しつつクライアントを有用性最大化ノイズレベルへ誘導する。
• NWA（ノイズ対応ウェイト）は、モデルとデータセットを跨いだ収束速度と最終精度を著しく改善する。
• WinFLoRA は、多様なプライバシ設定を受け入れつつ平均的な有用性を高く維持する。