[論文レビュー] Perturbed Gibbs Samplers for Synthetic Data Release

Yubin Park, Joydeep Ghosh|arXiv (Cornell University)|Dec 18, 2013

Privacy-Preserving Technologies in Data参考文献 21被引用数 3

ひとこと要約

本稿では、特徴ハッシュ化とノンパラメトリックモデリングを用いて、統計的有用性を保持するとともに定量的なプライバシーを保証する、高次元のカテゴリカルデータ向けの差分プライバシー合成データ生成手法であるPerturbed Gibbs Sampler (PeGS) を提案する。PeGSは差分プライバシーとl-多様性を用いて強力なプライバシー保証を達成しており、カリフォルニア患者退院データを用いた実証的検証により、周辺分布、条件付き分布、回帰ベースの統計において最小限の歪みが生じることを示している。

ABSTRACT

We propose a categorical data synthesizer with a quantifiable disclosure risk. Our algorithm, named Perturbed Gibbs Sampler, can handle high-dimensional categorical data that are often intractable to represent as contingency tables. The algorithm extends a multiple imputation strategy for fully synthetic data by utilizing feature hashing and non-parametric distribution approximations. California Patient Discharge data are used to demonstrate statistical properties of the proposed synthesizing methodology. Marginal and conditional distributions, as well as the coefficients of regression models built on the synthesized data are compared to those obtained from the original data. Intruder scenarios are simulated to evaluate disclosure risks of the synthesized data from multiple angles. Limitations and extensions of the proposed algorithm are also discussed.

研究の動機と目的

• 連続表として表現することが現実的でない高次元のカテゴリカルデータ向けに、スケーラブルな合成データ生成手法を開発すること。
• ε-差分プライバシーとl-多様性を含む形式的なプライバシー保証を通じて、定量的な漏洩リスクを確保すること。
• 周辺分布および条件付き分布、回帰係数の保持により、合成データの高い統計的有用性を維持すること。
• 模擬侵入攻撃（集団の固有性および確率的漏洩リスクを含む）を通じてプライバシーリスクを評価すること。
• 特に厳格なプライバシー予算下での、合成データ生成におけるプライバシーと有用性のトレードオフを明らかにすること。

提案手法

• 特徴ハッシュ化を用いて高次元データにスケーリング可能な非パラメトリックな条件付き確率推定を実行するブロックギブスサンプリングフレームワークを採用する。
• 各変数は、残りの変数のハッシュキーが同一である行に基づく非パラメトリックなカーネル密度近似を用いて条件付きで補完される。
• ε-差分プライバシーを達成するために、ラプラスノイズを条件付き確率に適用する摂動ステップを実施する。
• ハッシュ化スキームを用いて類似したデータ行をグループ化し、計算効率を向上させるとともに、完全な連続表の必要性を低減する。
• 複数回の補完をサポートしており、合成データセット上での頑健な統計的推論を可能にする。
• プライバシーはε-差分プライバシーとl-多様性を用いて形式的に分析され、集団の固有性および間接マッチング確率を用いた追加のリスク評価も実施される。

実験結果

リサーチクエスチョン

• RQ1 高次元のカテゴリカルデータにおいて、形式的なプライバシー保証を確保しつつ、元のデータと統計的に類似した合成データを生成できるか？
• RQ2 特徴ハッシュ化とノンパラメトリックモデリングの使用が、合成データ生成の有用性とスケーラビリティに与える影響は何か？
• RQ3 PeGSにおける摂動ステップは、従来手法と比較してどれほど漏洩リスクを低減するか？
• RQ4 異なるプライバシーパラメータ（ε）は、合成データにおける有用性とプライバシーのバランスにどのように影響するか？
• RQ5 提案手法は、プライバシーと元データとの統計的類似性の両面で、既存手法を上回ることができるか？

主な発見

• Perturbed Gibbs Samplerは、元のカリフォルニア患者退院データセットと比較して、周辺分布および条件付き分布における歪みが最小限に抑えられた合成データを効果的に生成した。
• 合成データ上で推定された回帰係数は、元のデータからの推定値と非常に近い値を示しており、強力な統計的有用性を示している。
• アルゴリズムは集団の固有性を高めるが、これはk-匿名性やl-多様性手法が固有性を低下させるのとは明確に異なる特徴である。
• εの値が低いほど、分布比較における絶対誤差が大きくなる傾向にあり、εがプライバシーと有用性のトレードオフの意味のある指標であることを裏付けている。
• ε-差分プライバシーとl-多様性の両方において強いプライバシー保証が達成されており、模擬攻撃の結果、レコード再識別が成功する確率は低かった。
• ハッシュ化機構は計算効率を超えてプライバシーに寄与しているが、今後の研究でハッシュ化のより厳密な形式的プライバシー解析が求められる。