[論文レビュー] Learn to Forget: User-Level Memorization Elimination in Federated Learning.

Yang Liu, Zhuo Ma+2 more|arXiv (Cornell University)|Mar 24, 2020

Privacy-Preserving Technologies in Data被引用数 15

ひとこと要約

本稿では、ユーザーがモデルから記憶された個人データを削除できるようにするフェデレーテッドラーニングフレームワークである\textsc{Learn to Forget}を提案する。各ユーザーは、記憶を抑制するための敵対的勾配を生成するダミー勾配生成器を訓練する。これにより、データの削除がモデルのセキュリティやフェデレーテッドラーニングの学習手順に影響を与えることなく実現される。

ABSTRACT

Federated learning is a decentralized machine learning technique that evokes widespread attention in both the research field and the real-world market. However, the current privacy-preserving federated learning scheme only provides a secure way for the users to contribute their private data but never leaves a way to withdraw the contribution to model update. Such an irreversible setting potentially breaks the regulations about data protection and increases the risk of data extraction. To resolve the problem, this paper describes a novel concept for federated learning, called memorization elimination. Based on the concept, we propose \sysname, a federated learning framework that allows the user to eliminate the memorization of its private data in the trained model. Specifically, each user in \sysname is deployed with a trainable dummy gradient generator. After steps of training, the generator can produce dummy gradients to stimulate the neurons of a machine learning model to eliminate the memorization of the specific data. Also, we prove that the additional memorization elimination service of \sysname does not break the common procedure of federated learning or lower its security.

研究の動機と目的

• フェデレーテッドラーニングにおいて、GDPRなどのデータ保護規制に違反するデータ削除メカニズムの欠如に対処すること。
• ユーザーのデータが不可逆的に記憶されることによるデータ抽出のリスクを解消すること。
• フェデレーテッドラーニングのプロセスを損なわずに、ユーザーが自らのプライベートデータの記憶を積極的に削除できるようにすること。
• 学習の整合性とモデルのセキュリティを維持しつつ、逆転可能なデータ削除機能を導入すること。

提案手法

• 各ユーザーのクライアントに、自身のプライベートデータの記憶を相殺する勾配を学習的に生成する可訓練なダミー勾配生成器を導入する。
• モデル学習後、ユーザーは生成器をデプロイして、特定のデータパターンの記憶を忘れるように誘発する合成勾配を生成する。
• 生成された勾配を中央サーバーに送信し、グローバルモデルのファインチューニングに使用することで、ユーザーのデータの記憶が効果的に低減される。
• コアなフェデレーテッドラーニングパイプラインを変更せず、セキュリティを弱めることがない標準的なフェデレーテッドアベレージに統合される。
• 理論的分析により、記憶の削除プロセスがモデルの有用性やプライバシー保証を損なわないことが確認されている。
• 生成器は、ユーザーのプライベートデータへのモデルの活性化を最小化するように、損失関数を用いてエンドツーエンドで訓練される。

実験結果

リサーチクエスチョン

• RQ1 トレーニング後に、グローバルモデルからデータを削除するためのデータ削除をグローバルモデルから削除せずに、ユーザーが自らのプライベートデータを削除できるか。
• RQ2 提案された記憶削除メカニズムは、フェデレーテッドラーニング中のモデルの有用性と収束性を保持するか。
• RQ3 ダミー勾配生成器は、特定のデータの記憶を効果的に抑制できるか、新たなプライバシー漏洩を引き起こさないか。
• RQ4 提案された手法は、標準的なフェデレーテッドラーニングプロトコルおよびセキュアアグリゲーション方式と互換性があるか。

主な発見

• 提案された\textsc{Learn to Forget}フレームワークは、ユーザーがグローバルモデルから自らのプライベートデータの記憶を削除できることを成功裏に実現した。
• 本手法は、標準的なフェデレーテッドラーニングと同等のモデルの精度と収束行動を維持しており、性能に顕著な低下がないことが確認された。
• ダミー勾配生成器は、ユーザーのプライベートデータへのモデルの活性化を効果的に低減し、ターゲットされた記憶削除を示した。
• 本フレームワークは、記憶削除プロセスがコアな学習やアグリゲーション手順を変更しないため、フェデレーテッドラーニングのセキュリティを損なわない。
• 理論的分析により、追加的なサービスがフェデレーテッドラーニングのプライバシー保証を弱めることがないことが確認された。
• 本手法はユーザー単位でのデータ削除をサポートし、GDPRなどのデータ保護規制と整合的である。