[論文レビュー] Performance Analysis and Optimization in Privacy-Preserving Federated Learning

Kang Wei, Jun Li+5 more|arXiv (Cornell University)|Feb 29, 2020

Privacy-Preserving Technologies in Data参考文献 18被引用数 11

ひとこと要約

本稿では、学習効率を維持したままプライバシーを強化するため、モデル更新に制御されたノイズを追加するクライアントレベルの微分プライバシー（CDP）フレームワークを提案する。理論的収束上限を導出し、通信ラウンドの割引（CRD）手法を導入することで、プライバシー、モデル精度、通信コストの最適なトレードオフを達成し、固定されたプライバシー予算下でフェデレーテッドラーニング（FL）の性能を顕著に向上させる。

ABSTRACT

As a means of decentralized machine learning, federated learning (FL) has recently drawn considerable attentions. One of the prominent advantages of FL is its capability of preventing clients' data from being directly exposed to external adversaries. Nevertheless, via a viewpoint of information theory, it is still possible for an attacker to steal private information from eavesdropping upon the shared models uploaded by FL clients. In order to address this problem, we develop a novel privacy preserving FL framework based on the concept of differential privacy (DP). To be specific, we first borrow the concept of local DP and introduce a client-level DP (CDP) by adding artificial noises to the shared models before uploading them to servers. Then, we prove that our proposed CDP algorithm can satisfy the DP guarantee with adjustable privacy protection levels by varying the variances of the artificial noises. More importantly, we derive a theoretical convergence upper-bound of the CDP algorithm. Our derived upper-bound reveals that there exists an optimal number of communication rounds to achieve the best convergence performance in terms of loss function values for a given privacy protection level. Furthermore, to obtain this optimal number of communication rounds, which cannot be derived in a closed-form expression, we propose a communication rounds discounting (CRD) method. Compared with the heuristic searching method, our proposed CRD can achieve a much better trade-off between the computational complexity of searching for the optimal number and the convergence performance. Extensive experiments indicate that our CDP algorithm with an optimization on the number of communication rounds using the proposed CRD can effectively improve both the FL training efficiency and FL model quality for a given privacy protection level.

研究の動機と目的

• 共有されるモデル更新によってプライベートなクライアントデータが漏洩する可能性があるフェデレーテッドラーニングにおけるモデルインバージョン攻撃のリスクを低減すること。
• 形式的なプライバシー保証を確保するため、モデル更新に人工的なノイズを追加するクライアントレベルの微分プライバシー（CDP）メカニズムを開発すること。
• ノイズ分散とプライバシー予算の変動に応じたCDPアルゴリズムの収束行動を理論的に分析すること。
• 与えられたプライバシー水準に対して、モデル収束性能を最大化する最適な通信ラウンド数を同定すること。
• ヒューリスティック探索に依存せずに、最適なラウンド数を効率的に特定するための通信ラウンドの割引（CRD）手法を提案すること。

提案手法

• サーバーにアップロードする前に、モデル更新にラプラスまたはガウスノイズを注入することで、クライアントレベルの微分プライバシー（CDP）を導入する。
• CDPメカニズムが(ε, δ)-微分プライバシーを満たすことを証明し、ノイズ分散を調整することでプライバシーパラメータを制御可能にする。
• 損失関数の観点から、CDPアルゴリズムの収束に対する理論的上限を導出し、プライバシーと収束速度のトレードオフを示す。
• 収束上限から導かれる関係をもとに、プライバシー予算とモデルの複雑さを関数として最適な通信ラウンド数を定式化する。
• 全探索に依存せずに最適なラウンド数を近似的に効率的に得るための通信ラウンドの割引（CRD）手法を提案する。
• CRDをトレーニングパイプラインに統合し、通信頻度を動的に調整することで、学習効率を向上させる。

実験結果

リサーチクエスチョン

• RQ1 クライアントレベルの微分プライバシーは、フェデレーテッドラーニングに効果的に適用可能であり、モデルインバージョン攻撃を防止しつつ、モデルの有用性を維持できるか？
• RQ2 クライアントのモデル更新にノイズを追加することで、フェデレーテッドラーニングにおける収束速度と最終的なモデルパフォーマンスにどのような影響を与えるか？
• RQ3 与えられたプライバシー予算に対して、収束性能を最大化する最適な通信ラウンド数が存在するか？
• RQ4 最適な通信ラウンド数に対して、閉形式の解が導出可能か、それとも近似が必要か？
• RQ5 提案されたCRD手法は、計算コストと収束パフォーマンスのバランスを、ヒューリスティック探索よりも効果的に改善できるか？

主な発見

• 提案されたCDPフレームワークは(ε, δ)-微分プライバシーを満たし、注入ノイズの分散を調整することでプライバシー保証を制御可能である。
• 理論的収束上限は、固定されたプライバシー水準下で、損失関数値を最小化する最適な通信ラウンド数が存在することを示している。
• CRD手法は、ヒューリスティック探索手法と比較して、計算コストと収束パフォーマンスのトレードオフを顕著に改善している。
• 広範な実験により、CDPアルゴリズムにCRD最適化を適用することで、同じプライバシー予算下でもトレーニング効率と最終的なモデル精度の両方が向上することが確認された。
• 最適な通信ラウンド数は、閉形式で解析的に解くことはできず、CRDのような近似手法の使用が不可避である。
• 本手法は、プライバシー、モデル品質、通信効率のバランスを効果的にとらせており、実世界のフェデレーテッドラーニングシステムにおける実用的妥当性を示している。