[論文レビュー] APEx: Accuracy-Aware Differentially Private Data Exploration

Chang Ge, Xi He+2 more|arXiv (Cornell University)|Dec 29, 2017

Privacy-Preserving Technologies in Data参考文献 24被引用数 5

ひとこと要約

APEx は、望ましい正確性の上限を指定することで、証明可能な微分プライバシーの保証を伴いながら、機密データセットを探索できる新規なシステムである。クエリと正確性要件を、最小限のプライバシー損失を伴う微分プライバシー機構に変換することで、妥当なプライバシー予算のもとで高品質なクエリ結果を保証する。実世界のエンティティ解決およびデータ探索ワークフローにおいて優れた性能を示している。

ABSTRACT

Organizations are increasingly interested in allowing external data scientists to explore their sensitive datasets. Due to the popularity of differential privacy, data owners want the data exploration to ensure provable privacy guarantees. However, current systems for answering queries with differential privacy place an inordinate burden on the data analysts to understand differential privacy, manage their privacy budget, and even implement new algorithms for noisy query answering. Moreover, current systems do not provide any guarantees to the data analyst on the quality they care about, namely accuracy of query answers. We present APEx, a novel system that allows data analysts to pose adaptively chosen sequences of queries along with required accuracy bounds. By translating queries and accuracy bounds into differentially private algorithms with the least privacy loss, APEx returns query answers to the data analyst that meet the accuracy bounds, and proves to the data owner that the entire data exploration process is differentially private. Our comprehensive experimental study on real datasets demonstrates that APEx can answer a variety of queries accurately with moderate to small privacy loss, and can support data exploration for entity resolution with high accuracy under reasonable privacy settings.

研究の動機と目的

• 既存の微分プライバシーを用いたデータ探索システムに正確性の保証が欠けている問題に対処し、アナリストがプライバシー予算の管理や複雑なノイズメカニズムの理解に煩わされないようにすること。
• アナリストがプライバシーパrameterではなく正確性の上限を指定できるようにすることで、プライバシー予算の管理からクエリ品質への焦点を移すことで、認知的負荷を軽減すること。
• データ所有者に対して証明可能な微分プライバシーの保証を提供するとともに、クエリ結果がユーザーが指定した正確性要件を満たすようにすること。
• 宣言的クエリインタフェースを通じて、エンティティ解決、スキーママッチング、特徴工学といった幅広いデータ探索ワークロードをサポートすること。
• クエリと正確性制約を、最適な微分プライバシー機構に知的に変換することで、プライバシー損失（ε）を最小限に抑えること。

提案手法

• APEx は、ユーザーが指定した正確性の上限を満たす条件下でプライバシー損失（ε）を最小化する問題として定式化し、従来の ε を固定して正確性が不明な状態で進めるアプローチとは逆転させている。
• 宣言的集計クエリ（例：COUNT、TOP-K、ヒストограм）を、最適なノイズキャリブレーションを備えた微分プライバシー機構に変換する翻訳レイヤーを採用している。
• ガウスメカニズムや高度な合成則を含む、高度なノイズキャリブレーション技術を用いて、正確性制約を満たしつつ ε を最小限に抑えている。
• クエリの種別と必要な正確性に応じて動的にプライバシー予算を割り当てることで、適応的クエリシーケンスをサポートし、エンドツーエンドのプライバシー保証を実現している。
• ブロッキング戦略やプライバシー制約下での述語選択をサポートすることで、エンティティ解決などの実世界のデータ探索パイプラインに統合している。
• 複数の適応的クエリにわたる探索プロセス全体が微分プライバシーに準拠していることを形式的証明により保証している。

実験結果

リサーチクエスチョン

• RQ1 ユーザーが指定した正確性の上限を満たす条件下で、プライバシー損失（ε）を最小化できるようなシステムを設計できるか？
• RQ2 インタラクティブなデータ探索の過程で、微分プライバシーの管理負荷をどのように軽減できるか？
• RQ3 APEx は、中程度のプライバシー予算のもとで、エンティティ解決のような複雑なデータ探索タスクをどの程度高い正確性でサポートできるか？
• RQ4 正確性の上限（α）とデータサイズが、探索の品質とプライバシーコストにどのように影響するか？
• RQ5 実世界のワークロードにおいて、APEx は従来のシステムに比べ、エンドツーエンドの正確性とプライバシー効率の両面で優れていると言えるか？

主な発見

• APEx はエンティティ解決タスクにおいて高い正確性を達成しており、ブロッキング戦略（BS1 および BS2）は、同じプライバシー予算（B=0.5）のもとでベースライン手法に比べて最大25%高い再現率を達成した。
• プライバシー予算を B=1.0 に固定した場合、最良の再現率を得るための最適な正確性要件（α）は、|D|=1000 の場合約 0.16|D|、|D|=4000 の場合約 0.08|D| であり、データサイズに依存する最適な α が存在することが示された。
• MS2（マルチステップ戦略）では、正確性要件がゆるすぎると（例：α > 0.32|D|）、ノイズの多い回答が述語選択を誤らせるため、F1 スコアが低下する。
• 正確性要件をある程度ゆるくすることで、同じプライバシー予算のもとでより多くのクエリを処理できるが、あまりにゆるすぎるとノイズが増加し、結果の品質が低下する。
• ICQ や TCQ のプライバシーコストは WCQ よりも常に低く、より少ないデータポイントが露呈されるため、システムの漏洩最小化の効率性が裏付けられている。
• APEx は中程度のプライバシー損失で高品質なデータ探索を可能にし、従来の ε 固定アプローチに比べ、正確性に配慮したプライバシー管理が使いやすさとパフォーマンスを著しく向上させることを示している。