[論文レビュー] Optimal Private Median Estimation under Minimal Distributional Assumptions

Christos Tzamos, Emmanouil-Vasileios Vlatakis-Gkaragkounis+1 more|arXiv (Cornell University)|Jan 1, 2020

Privacy-Preserving Technologies in Data被引用数 4

ひとこと要約

この論文は、最小限の分布的仮定のもとで微分プライバシーを満たす中央値推定の最適統計的レートを確立している—具体的には、中央値の近傍で正の密度を持つが、有限モーメントや有界なサポートを要しない。著者らは、典型的な標本インスタンスに新しいリプシッツ拡張補題を適用することで、ほぼタイトな上界と下界を達成する多項式時間の微分プライバシー手法を提案する。

ABSTRACT

We study the fundamental task of estimating the median of an underlying distribution from a finite number of samples, under pure differential privacy constraints. We focus on distributions satisfying the minimal assumption that they have a positive density at a small neighborhood around the median. In particular, the distribution is allowed to output unbounded values and is not required to have finite moments. We compute the exact, up-to-constant terms, statistical rate of estimation for the median by providing nearly-tight upper and lower bounds. Furthermore, we design a polynomial-time differentially private algorithm which provably achieves the optimal performance. At a technical level, our results leverage a Lipschitz Extension Lemma which allows us to design and analyze differentially private algorithms solely on appropriately defined typical instances of the samples.

研究の動機と目的

• 最も弱い分布的仮定のもとで、微分プライバシー中央値推定の根本的統計的レートを特定すること。
• 推定誤差の観点から最適なパフォーマンスを達成する微分プライバシー手法を設計すること。
• 新しいリプシッツ拡張技術を用いて、典型的な標本インスタンスに注目することで問題を分析すること。
• 推定誤差について、定数係数を除いてほぼタイトな上界と下界を確立すること。
• 純粋な微分プライバシーを維持しつつ、多項式時間で実行可能なアルゴリズムを保証すること。

提案手法

• 著者らは、典型的な標本構成に基づくのみで微分プライバシー手法の設計と分析が可能なリプシッツ拡張補題を導入する。
• 最小限の仮定のもとで中央値推定に必要な本質的構造を捉える「典型的」インスタンスのクラスを定義する。
• アルゴリズムは、これらの典型的インスタンス上で動作し、リプシッツ性を活用して感度を制御することで中央値を私的に推定する。
• 理論的分析は、微分プライバシーの保証と統計的推定理論を組み合わせ、タイトな誤差境界を導出する。
• 局所的密度に関する構造的仮定を用いることで、無限大の値や重たい尾を持つ分布の影響を最小限に抑えることで、最適なパフォーマンスを達成する。
• アルゴリズムは効率的に多項式時間で実装可能であり、実用的妥当性を保証する。

実験結果

リサーチクエスチョン

• RQ1 最小限の分布的仮定のもとで、微分プライバシー中央値推定の最適統計的レートは何か？
• RQ2 多項式時間で実行される微分プライバシー手法が、この最適レートを達成できるか？
• RQ3 元の分布が無限大のサポートを持ち、有限モーメントを持たない場合でも、微分プライバシーをどのように維持できるか？
• RQ4 標本データのどのような構造的性質を活用して、効率的かつプライベートな推定器を設計できるか？
• RQ5 有界性やモーメント条件を仮定しない場合、推定誤差をどの程度まで束縛できるか？

主な発見

• 中央値における正の密度という最小限の仮定のもとで、推定の正確な統計的レートが定数係数を除いて同定された。
• 多項式時間の微分プライバシー手法により、推定誤差についてほぼタイトな上界が達成された。
• 一致する下界により、アルゴリズムのパフォーマンスが定数係数を除いて最適であることが確認された。
• リプシッツ拡張補題により、典型的な標本構成にのみ依存するプライベート手法の設計が可能になり、分析が簡素化された。
• 中央値の近傍で密度が正であれば、分布が無限大のサポートを持ち、有限モーメントを持たない場合でも、この手法は有効である。
• 純粋な微分プライバシーを維持しつつ、弱い仮定のもとで最適な統計的効率性を達成した。