[論文レビュー] Differentially Private Identity and Closeness Testing of Discrete Distributions

Maryam Aliakbarpour, Ilias Diakonikolas+1 more|arXiv (Cornell University)|Jul 18, 2017

Privacy-Preserving Technologies in Data参考文献 19被引用数 10

ひとこと要約

本稿では、パニンスのテストと衝突に基づく均一性テストのプライベート版を活用して、離散的分布のアイデンティティテストおよびクロージネステストのためのサンプル効率的な微分プライバシー保護アルゴリズムを提示する。非プライベートな対応手法と比較してわずかな乗法的オーバーヘッドで近似的に最適なサンプル複雑性を達成し、部分線形なスケールの下で強力なプライバシーとユーティリティのトレードオフを示している。

ABSTRACT

We investigate the problems of identity and closeness testing over a discrete population from random samples. Our goal is to develop efficient testers while guaranteeing Differential Privacy to the individuals of the population. We describe an approach that yields sample-efficient differentially private testers for these problems. Our theoretical results show that there exist private identity and closeness testers that are nearly as sample-efficient as their non-private counterparts. We perform an experimental evaluation of our algorithms on synthetic data. Our experiments illustrate that our private testers achieve small type I and type II errors with sample size sublinear in the domain size of the underlying distributions.

研究の動機と目的

• 部分線形スケールにおける離散的分布のアイデンティティおよびクロージネステストのための効率的な微分プライベートテスト手法を開発すること。
• 微分プライバシーによって引き起こされるサンプル複雑性のオーバーヘッドを最小限に抑えつつ、強力なプライバシー保証を維持すること。
• 具体的には、非プライベートな分布テスト手法（特に均一性テストの還元）をプライベートな設定に拡張し、効率の損失を最小限に抑えること。
• サンプルサイズがドメインサイズに対して部分線形である場合でも、低レベルの第一種および第二種の誤差を達成するプライベートテスト手法を設計すること。
• 公式的にプライバシーと正確性の保証を持つ、最初のサンプル効率的な微分プライベートなクロージネステスト手法を提供すること。

提案手法

• アイデンティティテストから均一性テストへのブラックボックス還元を適応し、サンプルサイズが定数倍にしか増加しないプライベートな均一性テストを介してプライベートなアイデンティティテストを実現する。
• 出現回数がちょうど1回の要素の数を用いたパニンスの均一性テストのプライベート版を開発し、感度が低いために効率的なラプラスノイズの追加が可能になる。
• 衝突に基づく統計量の感度を低下させるために、ある要素が多数回出現するサンプルを事前に除外する前処理ステップを導入し、プライベートなクロージネステストに適応する。
• 感度解析により、変更された統計量の感度が有界（最大8）であることを証明し、ラプラスメカニズムを用いて微分プライバシーを保証する。
• チェビシェフの不等式と分散の上限を用いて、プライベートなテストフレームワーク下での第一種および第二種の誤差確率を分析する。
• テスト統計量の二段階的分析を採用：期待値が大きい要素のグループと小さい要素のグループに分け、分散を抑え、正確性を保証する。

実験結果

リサーチクエスチョン

• RQ1 非プライベートのテスト手法と比較して、サンプル複雑性がほぼ同等の微分プライベートなアイデンティティテストは達成可能か？
• RQ2 離散的分布のクロージネステストにおいて、微分プライバシーを達成するために必要な最小限のサンプル複雑性のオーバーヘッドは何か？
• RQ3 衝突のような高い感度を持つ統計量を、過度なサンプルコストを伴わずどのようにプライベート化できるか？
• RQ4 アイデンティティテストから均一性テストへの還元を、プライベートな設定に最小限の効率的損失で適応できるか？
• RQ5 部分線形スケールにおいて、プライベートテスト手法がどの程度第一種および第二種の誤差を低く抑えることができるか？

主な発見

• 提案されたプライベートなアイデンティティテスト手法は、非プライベートなパニンステスト手法と比較して、サンプル複雑性が定数倍の範囲内に収まり、オーバーヘッドは O(√n/ε² + √n/(ε√ξ)) である。
• プライベート化された衝突に基づくアプローチに依拠するプライベートなクロージネステスト手法は、部分線形のサンプル複雑性を達成し、公式にプライバシーと正確性の保証を持つ最初の手法である。
• テスト統計量の分散は O(min{m,n}) に加え、分布間のL2距離に関連する項によって抑えられ、チェビシェフの不等式を用いて誤差確率を制御可能である。
• サンプルサイズが十分に大きい場合、テスト統計量の期待値が十分に大きいという条件下で、第一種の誤差は 1/3 未満に抑えられる。
• プライバシー保証はラプラスメカニズムにより達成され、最終的な統計量の感度が最大8であることが証明されており、ξ-微分プライバシーが保証される。
• 実験的評価により、ドメインサイズに対して部分線形なサンプルサイズでも、プライベートテスト手法が小さな第一種および第二種の誤差を達成することが確認された。