[論文レビュー] Privacy Preservation in Federated Learning: Insights from the GDPR Perspective.

Nguyen B. Truong, Kai Sun+3 more|arXiv (Cornell University)|Nov 10, 2020

Privacy-Preserving Technologies in Data被引用数 11

ひとこと要約

この論文は、GDPR準拠を確保するためのフェデレーテッドラーニング（FL）におけるプライバシー保護技術を調査し、FLにおけるモデルパラメータが依然として機微な情報を漏洩させることを強調している。GDPR要件と整合性を保ちながら、データプライバシーのリスクを低減するため、高度な暗号技術および微分プライバシー手法をFLシステムに統合することを提案する。

ABSTRACT

Along with the blooming of AI and Machine Learning-based applications and services, data privacy and security have become a critical challenge. Conventionally, data is collected and aggregated in a data centre on which machine learning models are trained. This centralised approach has induced severe privacy risks to personal data leakage, misuse, and abuse. Furthermore, in the era of the Internet of Things and big data in which data is essentially distributed, transferring a vast amount of data to a data centre for processing seems to be a cumbersome solution. This is not only because of the difficulties in transferring and sharing data across data sources but also the challenges on complying with rigorous data protection regulations and complicated administrative procedures such as the EU General Data Protection Regulation (GDPR). In this respect, Federated learning (FL) emerges as a prospective solution that facilitates distributed collaborative learning without disclosing original training data whilst naturally complying with the GDPR. Recent research has demonstrated that retaining data and computation on-device in FL is not sufficient enough for privacy-guarantee. This is because ML model parameters exchanged between parties in an FL system still conceal sensitive information, which can be exploited in some privacy attacks. Therefore, FL systems shall be empowered by efficient privacy-preserving techniques to comply with the GDPR. This article is dedicated to surveying on the state-of-the-art privacy-preserving techniques which can be employed in FL in a systematic fashion, as well as how these techniques mitigate data security and privacy risks. Furthermore, we provide insights into the challenges along with prospective approaches following the GDPR regulatory guidelines that an FL system shall implement to comply with the GDPR.

研究の動機と目的

• AIおよび機械学習におけるデータプライバシーの増大する課題に取り組むこと、特にGDPRのような厳格な規制下での取り組みを目的とする。
• 端末上でのデータ保持にもかかわらず、FLにおけるプライバシーリスク、特にモデルパラメータの漏洩に起因するリスクを特定すること。
• FLシステムに統合可能な最新のプライバシー保護技術を調査・評価すること。
• 技術的および規制的整合性を活用して、GDPR準拠のFLシステムを実装するための実行可能なイン사이트を提供すること。
• GDPR指針に従うプライバシーに強く耐性を持つFLフレームワークを構築するうえでの課題と今後の研究方向性を強調すること。

提案手法

• フェデレーテッドラーニングに適用可能な既存のプライバシー保護技術を体系的に分析する。これには、微分プライバシー、同型暗号、およびセキュアアグリゲーションが含まれる。
• これらの技術が、FLにおけるクロスパーティ間通信中にモデルパラメータをどのように保護するかを評価し、推論攻撃を防ぐ。
• 暗号保護を適用する際の、モデルの有用性、通信効率、プライバシー保証の間のトレードオフを評価する。
• データ最小化、目的制限、完全性および機密性といったGDPR原則に技術的解決策をマッピングする。
• GDPR準拠要件を満たすために、プライバシー強化技術をFLパイプラインに統合するためのフレームワークを提案する。
• 実際のFL展開において、複数のプライバシー技術（例：微分プライバシーとセキュアアグリゲーションの併用）を組み合わせる実現可能性と限界を検討する。

実験結果

リサーチクエスチョン

• RQ1 端末上でのデータ保存にもかかわらず、フェデレーテッドラーニングにおけるモデルパラメータがなぜ依然としてプライバシーリスクをもたらすのか？
• RQ2 GDPR制約下で、FLにおける機微な情報の漏洩を緩和するうえで、どのプライバシー保護技術が最も効果的か？
• RQ3 FLシステムに微分プライバシーおよび同型暗号を実装する際の技術的および規制的トレードオフは何か？
• RQ4 FLシステムは、データ最小化や目的制限といったGDPRの根幹的原則にどのように適合させることができるか？
• RQ5 モデル性能を維持しつつ、エンドツーエンドのプライバシー準拠を達成するうえでの未解決の課題は何か？

主な発見

• フェデレーテッドラーニングで交換されるモデルパラメータは、依然として機微な情報を露呈する可能性があり、生データの転送がなくても、FLは本質的にプライバシー攻撃に対して脆弱である。
• 微分プライバシーやセキュアアグリゲーションは、FLシステムにおけるメンバー推定攻撃やモデル逆転攻撃のリスクを低減するのに有効である。
• 同型暗号を用いることで、暗号化されたモデル更新に対して計算を実行でき、機密性が向上するが、著しい計算オーバーヘッドを伴う。
• 複数のプライバシー保護技術を組み合わせることで保護水準を向上させられるが、通信コストおよび計算コストが増加する傾向にある。
• FLにおけるGDPR準拠には、技術的対策に加え、明確なデータ処理契約および責任追及メカニズムが必要である。
• 現在のソリューションは、特に大規模かつ異種のFL展開において、プライバシー、効率性、モデル精度のバランスをとるうえで課題に直面している。