[論文レビュー] Formal Privacy for Functional Data with Gaussian Perturbations

Ardalan Mirshani, Matthew Reimherr+1 more|arXiv (Cornell University)|Nov 17, 2017

Privacy-Preserving Technologies in Data参考文献 48被引用数 7

ひとこと要約

本稿は、可分なバナッハ空間におけるガウスノイズを活用することで、関数データへの微分プライバシーの拡張を図り、全関数の公開、非線形関数的要約、経路レベルの推定など、複雑な要約のプライバシー保護を可能にした。主な貢献は、カマリールト・マーティン密度を用いた形式的な枠組みであり、プライバシーの境界を確立するとともに、重要なトレードオフを明らかにした。すなわち、わずかな過剰平滑化によってノイズが減少し、プライバシーを損なわず、利用性が著しく向上することである。

ABSTRACT

Motivated by the rapid rise in statistical tools in Functional Data Analysis, we consider the Gaussian mechanism for achieving differential privacy with parameter estimates taking values in a, potentially infinite-dimensional, separable Banach space. Using classic results from probability theory, we show how densities over function spaces can be utilized to achieve the desired differential privacy bounds. This extends prior results of Hall et al (2013) to a much broader class of statistical estimates and summaries, including "path level" summaries, nonlinear functionals, and full function releases. By focusing on Banach spaces, we provide a deeper picture of the challenges for privacy with complex data, especially the role regularization plays in balancing utility and privacy. Using an application to penalized smoothing, we explicitly highlight this balance in the context of mean function estimation. Simulations and an application to diffusion tensor imaging are briefly presented, with extensive additions included in a supplement.

研究の動機と目的

• 点関数評価を超えて、ノルム、微分、全関数の公開などの複雑な関数的要約へと微分プライバシーを拡張すること。
• 無限次元の可分バナッハ空間における統計的推定のためのプライバシー保証を、関数的密度を用いて形式化すること。
• 正則化とプライバシーの相互作用を調査し、過剰平滑化がノイズを減少させつつプライバシーを維持できることを示すこと。
• 罰則付き平滑化を用いた計算的に実行可能なメカニズムを開発し、プライベートな平均関数推定を実現すること。
• シミュレーションと拡散テンソル画像法の応用を通じて、フレームワークの実用的有用性を示すこと。

提案手法

• 可分なバナッハ空間におけるゼロ平均ガウスノイズを用いたガウスメカニズムを用い、$(\epsilon,\delta)$-微分プライバシーを達成する。
• カマリールト・マーティン定理を適用して関数空間上の密度を導出し、無限次元設定における厳密なプライバシー境界を確立する。
• ノイズと要約の間の「適合性」の概念を導入し、与えられた関数的要約に対してDPを達成できるかどうかを判断する。
• バイアス、分散、プライバシーのバランスを取るために、罰則パラメータ$\phi$と範囲パラメータ$\rho$を用いた罰則付き平滑化を採用する。
• プライバシー制約下でのハイパーパrameterチューニングのため、交差検証スコアのモンテカルロ推定値の平均を取るPrivate Cross Validation (PCV)を構築する。
• カーネルベースの共分散関数（ガウス、マテルン、指数関数的）を用いて関数空間をモデル化し、プライバシー強化推定値を生成する。

実験結果

リサーチクエスチョン

• RQ1 ガウスメカニズムは、非線形および経路レベルの推定を含む広範な関数的要約に対して、$(\epsilon,\delta)$-微分プライバシーを達成できるか？
• RQ2 微分プライバシーを達成するために、ノイズ分布が満たすべき条件は何か？（特定の関数的要約に対して適合性を確保するための条件）
• RQ3 特に過剰平滑化を含む正則化は、関数データの公開におけるプライバシーと利用性のトレードオフにどのように影響するか？
• RQ4 プライベートな交差検証（PCV）によるハイパーパrameterチューニングは、プライバシー制約下で標準的交差検証よりも優れた利用性を持つ推定をもたらすか？
• RQ5 無限次元空間において、関数的密度を意味的に構築・利用することはどの程度可能か？

主な発見

• ガウスメカニズムは、全関数の公開や経路レベルの要約を含む、広範な線形および非線形関数的要約に対して、$(\epsilon,\delta)$-微分プライバシーを達成する。
• 重要な否定的結果として、すべてのガウスノイズが与えられた要約と適合するわけではないことが示され、DPを達成するためには適合性が必須条件であることが判明した。
• 罰則付き平滑化による平均関数推定において、ガウスカーネルを用い$\phi = 0.01$とすると、プライバシーと利用性の間で良好なバランスが得られる。
• Private Cross Validation (PCV) は過剰平滑化を引き起こすが、ノイズを著しく低減することで利用性を顕著に向上させ、過剰平滑化がプライバシー-利用性トレードオフを改善することを示した。
• シミュレーションでは、PCVに基づく推定値が高い利用性を維持しており、特にガウスカーネルではプライバシー強化推定値が真の平均関数をよく追跡している。
• フレームワークは、正則化がプライバシーにおいて重要な役割を果たすことを明らかにした。わずかな過剰平滑化により、必要なノイズが減少し、プライバシー保証を損なわず利用性が向上する。