[論文レビュー] Differentially Private Meta-Learning

Jeffrey Li, Mikhail Khodak+2 more|arXiv (Cornell University)|Sep 12, 2019

Privacy-Preserving Technologies in Data参考文献 28被引用数 21

ひとこと要約

本稿は、メタラーニングにおけるタスクグローバル微分プライバシー（DP）を導入し、個々のタスクデータを保護しながらも高い性能を維持する、微分プライベートな勾配ベースメタラーニング（GBML）アルゴリズムを提案する。少数ショットラーニングおよびパーソナライズドファイアードラーニングにおいて、タスクグローバルDPはローカルDPよりも顕著に高い精度を達成しており、中程度のプライバシー予算下で非プライベート性能の最大92％を達成していることが示された。

ABSTRACT

Parameter-transfer is a well-known and versatile approach for meta-learning, with applications including few-shot learning, federated learning, and reinforcement learning. However, parameter-transfer algorithms often require sharing models that have been trained on the samples from specific tasks, thus leaving the task-owners susceptible to breaches of privacy. We conduct the first formal study of privacy in this setting and formalize the notion of task-global differential privacy as a practical relaxation of more commonly studied threat models. We then propose a new differentially private algorithm for gradient-based parameter transfer that not only satisfies this privacy requirement but also retains provable transfer learning guarantees in convex settings. Empirically, we apply our analysis to the problems of federated learning with personalization and few-shot classification, showing that allowing the relaxation to task-global privacy from the more commonly studied notion of local privacy leads to dramatically increased performance in recurrent neural language modeling and image classification.

研究の動機と目的

• 勾配ベースメタラーニングにおけるプライバシーのリスクを形式化・分析すること。ここでの前提は、タスク固有のモデルが中央のメタラーナーに共有されることである。
• メタラーナーを含むすべての下流エージェントが、個々の訓練例の情報を漏洩させない新たなプライバシーの概念、すなわちタスクグローバル微分プライバシーを提案すること。
• 凸設定においても学習の保証を維持しつつ、タスクグローバルDPを満たす微分プライベートなGBMLアルゴリズムを設計すること。
• 言語モデリングや画像分類といった実世界のタスクにおいて、より制限的で強いローカルDPとは対照的に、タスクグローバルDPが実用的かつ効果的な代替手段であるかを示すこと。
• パーソナライズドを伴うファイアードラーニングにフレームワークを拡張し、タスクグローバルDPが従来のDP-FedAvg手法よりも優れた性能を発揮することを示すこと。

提案手法

• ローカルDPの緩和として、タスクグローバル微分プライバシーを形式化し、共有されるタスク固有モデルから、個々の訓練例に関する機微な情報が下流エージェントによって学習されないことを保証する。
• 各タスクのデータに関して微分プライバシーを満たすために、タスク固有のモデル更新に適切にスケーリングされたガウスノイズを追加するDP-GBMLアルゴリズムを設計する。
• Khodakら（2019a）のフレームワークを用いて凸設定における一般化限界を導出し、学習の保証がタスクの類似度に比例してスケーリングされることを示す。
• 複数の例を同時に保護するグループDPにアルゴリズムを拡張することで、感受性の高いデータバッチに対してより強いプライバシー保護を実現する。
• 2つの設定にアルゴリズムを適用する：少数ショット画像分類（Omniglot、Mini-ImageNet）および言語モデリング（Shakespeare、Wiki-1600）、ベースとなるメタラーニング手法はReptileを用いる。
• タスクを繰り返し使用せずにサンプリングし、各勾配ステップに対してノイズを適用することで、繰り返しクライントへのアクセスによるプライバシー劣化を回避し、プライバシー予算を訓練全体で維持する。

実験結果

リサーチクエスチョン

• RQ1 共有されるタスク固有モデルを伴うメタラーニングにおいて、実用的で意味のあるプライバシーの概念を形式化し、ユーティリティと保護のバランスを取ることは可能か？
• RQ2 タスクグローバル微分プライバシーは、ローカル微分プライバシーの代替手段として、メタラーニングの文脈で実用的かつ効果的であるか？
• RQ3 微分プライベートなGBMLアルゴリズムは、凸および非凸設定においても、強力な一般化および転移学習性能を維持できるか？
• RQ4 パーソナライズドを伴うファイアードラーニングにおいて、タスクグローバルDPはローカルDPと比較して、モデルの精度およびプライバシー・ユーティリティのトレードオフにおいて優れているか？
• RQ5 提案されたDP-GBMLアルゴリズムは、少数ショット画像分類や言語モデリングといった実世界のタスクに効果的に適用可能か？

主な発見

• Wiki-1600言語モデリングデータセットにおいて、タスクグローバルプライベートなReptileは中程度のプライバシー予算下で非プライベート性能の92％を達成したが、ローカルDPではわずか50％にとどまった。
• Shakespeare-800データセットでは、タスクグローバルDPが非プライベート性能の88％を達成したのに対し、同じプライバシー予算下でローカルDPは55％にとどまった。
• 少数ショット画像分類の設定では、タスクグローバルDP Reptileはメタラーニングなしのベースラインを上回り、プライバシー制約下でも依然としてメタラーニングの利点を維持した。
• プライベートモデルと非プライベートモデルの性能差は、訓練ショット数が増えるにつれて縮小し、タスクの類似度に比例してスケーリングする理論的学習保証と整合的であった。
• 言語モデリングおよび画像分類の両設定において、本手法はローカル-DPバージョンよりも優れたテスト時性能を達成し、タスクグローバルDPの実用的利点を示した。
• 本手法は自然にパーソナライズドを伴うファイアードラーニングに拡張可能であり、標準的なDP-FedAvgとは対照的に、より高いユーティリティを維持するプライバシー保護型の代替手段を提供する。