[論文レビュー] User-Level Privacy-Preserving Federated Learning: Analysis and Performance Optimization

Kang Wei, Jun Li+5 more|arXiv (Cornell University)|Feb 29, 2020

Privacy-Preserving Technologies in Data参考文献 38被引用数 12

ひとこと要約

本稿では、モデル更新にノイズを注入することで、ユーザー単位の微分プライバシー（UDP）を実現するフェデレーテッドラーニング用フレームワークを提案する。これにより、ユーザーレベルでの局所的微分プライバシー（LDP）が保証される。また、収束が停滞した際に通信ラウンド数を動的に削減する通信ラウンド割引法（CRD）を導入し、プライバシー予算内での収束性能を最適化することで、モデルの性能と効率性が顕著に向上する。

ABSTRACT

Federated learning (FL), as a type of collaborative machine learning framework, is capable of preserving private data from mobile terminals (MTs) while training the data into useful models. Nevertheless, from a viewpoint of information theory, it is still possible for a curious server to infer private information from the shared models uploaded by MTs. To address this problem, we first make use of the concept of local differential privacy (LDP), and propose a user-level differential privacy (UDP) algorithm by adding artificial noise to the shared models before uploading them to servers. According to our analysis, the UDP framework can realize $(ε_{i}, δ_{i})$-LDP for the $i$-th MT with adjustable privacy protection levels by varying the variances of the artificial noise processes. We then derive a theoretical convergence upper-bound for the UDP algorithm. It reveals that there exists an optimal number of communication rounds to achieve the best learning performance. More importantly, we propose a communication rounds discounting (CRD) method. Compared with the heuristic search method, the proposed CRD method can achieve a much better trade-off between the computational complexity of searching and the convergence performance. Extensive experiments indicate that our UDP algorithm using the proposed CRD method can effectively improve both the training efficiency and model quality for the given privacy protection levels.

研究の動機と目的

• 共有されたモデル更新から好奇なサーバーが機微なデータを推定する可能性があるフェデレーテッドラーニングにおけるプライバシー漏洩問題を解決すること。
• ノイズ注入を用いて、各ユーザーに対して調整可能なプライバシー水準で $(\epsilon_i, \delta_i)$-LDP を達成するユーザー単位の微分プライバシー（UDP）を形式化すること。
• 与えられたプライバシー予算下で学習性能を最大化する最適な通信ラウンド数を同定すること。
• 収束性能を向上させるために、計算負荷を増加させない通信ラウンドの動的削減メカニズム（CRD）を設計すること。
• 実世界のフェデレーテッドラーニング環境における、プライバシー、モデル品質、通信効率のトレードオフを評価すること。

提案手法

• 各ユーザーのモデル更新に平均ゼロのガウスノイズを追加するUDPアルゴリズムを導入し、ノイズの分散を調整することで、個々のユーザーに対して所望の $(\epsilon_i, \delta_i)$-LDP を達成する。
• モデル収束の理論的上界を導出し、最適な通信ラウンド数 $T$ が性能最適化に寄与することを示す。
• 収束が停滞した際に通信ラウンド数を動的に削減するCRD手法を提案し、効率性を向上させる。
• 通信ラウンド数 $T$ の削減レートを制御するための割引係数 $\beta$ を採用し、$\beta=0.9$ が優れた性能を示すことが実証された。
• 比較のためのヒューリスティック探索ベースラインを用い、CRDが収束性と複雑性のバランスにおいて優れていることを示した。
• CIFAR-10 および MNIST データセットを用い、非独立同分布（non-IID）および不均衡なデータ分布下で、CNN および MLP モデルを用いて、耐障害性を検証した。

実験結果

リサーチクエスチョン

• RQ1 ノイズ注入を用いることで、モデルの有用性を損なわせずに、フェデレーテッドラーニングにおけるユーザー単位の微分プライバシーを効果的に実装できるか？
• RQ2 与えられたプライバシー予算下で、収束性能を最大化する最適な通信ラウンド数 $T$ は何か？
• RQ3 提案されたCRD手法は、ヒューリスティック法や固定ラウンド戦略と比較して、どのように収束性能を向上させるか？
• RQ4 割引係数 $\beta$ が通信効率とモデル精度のトレードオフに与える影響は何か？
• RQ5 CRD手法は、異なるデータ分布およびモデルアーキテクチャに一般化可能か？

主な発見

• ノイズの分散を調整することで、UDPアルゴリズムは $(\epsilon_i, \delta_i)$-局所的微分プライバシーを達成し、ユーザーごとに調整可能なプライバシー水準を実現する。
• 最適な通信ラウンド数 $T$ が存在し、それがモデル収束性能を最大化することを裏付け、適応的制御の必要性を検証した。
• 提案されたCRD手法は、ベースラインのUDPおよびLeiらの手法と比較して、収束速度と最終的なモデル精度の両面で顕著に向上させた。特に $\beta=0.9$ 時に顕著な改善が得られた。
• 大きな割引係数 $\beta$ は $T$ の減少を遅くし、より良い収束性能をもたらすが、通信ラウンドの消費量も増加する。
• CIFAR-10 および MNIST における実験では、非IIDおよび不均衡データ設定下でも、テスト精度の向上と損失の低減が一貫して観察された。
• 通信ラウンド数と収束性能のトレードオフは定量的に評価可能であり、テストされた設定では $\beta=0.8$ が最も良好なバランスを示した。