[論文レビュー] Leveraging Public Data for Practical Private Query Release

Terrance Liu, Giuseppe Vietri+3 more|arXiv (Cornell University)|Feb 17, 2021

Privacy-Preserving Technologies in Data参考文献 26被引用数 13

ひとこと要約

本稿では、関連する分布からの公開データセットを事前知識として活用することで、精度とスケーラビリティを向上させる、新しい微分プライバシー準拠のクエリ公開手法PMW Pubを提案する。公開データをプライバシー機構に統合することにより、PMW PubはACS や ADULT などの高次元データセットにおいて、既存手法を著しく上回る最先端の性能を達成し、スケールにおいても計算的に実行可能である。

ABSTRACT

In many statistical problems, incorporating priors can significantly improve performance. However, the use of prior knowledge in differentially private query release has remained underexplored, despite such priors commonly being available in the form of public datasets, such as previous US Census releases. With the goal of releasing statistics about a private dataset, we present PMW^Pub, which -- unlike existing baselines -- leverages public data drawn from a related distribution as prior information. We provide a theoretical analysis and an empirical evaluation on the American Community Survey (ACS) and ADULT datasets, which shows that our method outperforms state-of-the-art methods. Furthermore, PMW^Pub scales well to high-dimensional data domains, where running many existing methods would be computationally infeasible.

研究の動機と目的

• 微分プライバシー準拠のクエリ公開における事前知識の未開拓な活用、特に公開データセットの形での活用を解決すること。
• 関連する分布からの公開データを組み込むことで、プライベートなクエリ公開の精度を向上させること。
• 既存手法が計算的に実行不能になる高次元データドメインにおいても実用的である、スケーラブルな手法を開発すること。
• 公開データをプライベート統計分析に活用するための理論的基盤と実証的検証を提供すること。

提案手法

• PMW Pubは、関連する分布からの公開データを、微分プライバシー準拠のクエリ公開パイプラインにおける事前情報として統合する。
• この手法は、プライバシー機構を公開データに条件づけるように変更し、プライベート統計の推定における不確実性を低減する。
• 公開データとプライベートデータを組み合わせて、正確なクエリ回答を生成する微分プライバシー機構を採用する。
• 公開データに基づいてキャリブレーションされたノイズ追加戦略を用いることで、プライバシーを維持しながら有用性を向上させる。
• クエリ空間の有効次元を低減することで、高次元データドメインへの効率的スケーリングを実現する。
• 理論的分析によりプライバシー保証が裏付けられ、実証的評価により性能向上が検証される。

実験結果

リサーチクエスチョン

• RQ1 関連する分布からの公開データセットは、微分プライバシー準拠のクエリ公開の精度向上に効果的に活用可能か？
• RQ2 公開データを事前知識として組み込むことで、プライベートクエリ公開の有用性とプライバシー保証にどのような影響を与えるか？
• RQ3 提案手法は、既存手法が計算制約により失敗する高次元データドメインにスケーリング可能か？
• RQ4 PMW Pubは、実世界のデータセットにおいて、最先端のプライベートクエリ公開手法と比較して相対的にどの程度の性能を示すか？

主な発見

• PMW Pubは、アメリカ・コミュニティ・サーベイ（ACS）およびADULTデータセットにおいて、最先端の手法を上回るクエリ精度を達成した。
• 公開データを事前情報として効果的に活用することで、有用性の顕著な向上が達成された。
• PMW Pubは高次元データドメインへのスケーリングに優れており、他の手法が計算的に実行不能になる状況でも、計算の実行可能性を維持した。
• 理論的分析により、この手法が強いプライバシー保証を満たす微分プライバシーを満たしていることが確認された。
• 実証的結果により、関連する分布からの公開データが、プライベートクエリ公開における推定誤差を顕著に低減することが示された。