[論文レビュー] Differentially Private Uniformly Most Powerful Tests for Binomial Data

Jordan Awan, Aleksandra Slavković|arXiv (Cornell University)|May 23, 2018

Privacy-Preserving Technologies in Data参考文献 20被引用数 19

ひとこと要約

本稿では、$(\epsilon,\delta)$-微分プライバシー下での二項比例のための一様に最強（UMP）仮説検定を導出するために、最適なノイズ機構としてTruncated-Uniform-Laplace（Tulap）分布を導入した。UMP検定は標本和の関数として得られ、Tulap分布に従う確率変数の後処理により、正確な $p$-値が計算可能であり、既存の手法と比較して有限標本における性能が優れている。

ABSTRACT

We derive uniformly most powerful (UMP) tests for simple and one-sided hypotheses for a population proportion within the framework of Differential Privacy (DP), optimizing finite sample performance. We show that in general, DP hypothesis tests for exchangeable data can always be expressed as a function of the empirical distribution. Using this structure, we prove a `Neyman-Pearson lemma' for binomial data under DP, where the DP-UMP only depends on the sample sum. Our tests can also be stated as a post-processing of a random variable, whose distribution we coin "Truncated-Uniform-Laplace" (Tulap), a generalization of the Staircase and discrete Laplace distributions. Furthermore, we obtain exact p-values, which are easily computed in terms of the Tulap random variable. We show that our results also apply to distribution-free hypothesis tests for continuous data. Our simulation results demonstrate that our tests have exact type I error, and are more powerful than current techniques.

研究の動機と目的

• $(\epsilon,\delta)$-微分プライバシーの厳密な制約下で、二項比例のための一様に最強（UMP）仮説検定を開発すること。
• 統計的有用性を保ちながらプライバシーを確保する最適なノイズ機構を同定し、ヒューリスティックなノイズ追加を越えること。
• DP仮説検定における正確な $p$-値と有限標本の保証を提供し、先行研究における漸近的近似の限界を是正すること。
• 同一の理論的枠組みを用いて連続データの分布フリー推論へのDP検定の適用を拡張すること。
• すべてのDP検定のクラス内で最適性を証明することで、微分プライバシー下での最適統計的推論の基盤を確立すること。

提案手法

• 交換可能データに対して、任意の微分プライバシー化された検定は、経験分布にのみ依存することを証明し、二項データでは問題が標本和に還元されることを示した。
• 離散ラプラス分布およびステアケイプス分布の一般化として、Truncated-Uniform-Laplace（Tulap）分布を導入し、$(\epsilon,\delta)$-DP下での最適なノイズ機構としての役割を果たすことを示した。
• DP-UMP検定をTulap分布に従う確率変数の後処理関数として導出し、プライバシーと最適性の両方を保証した。
• 定理7.2およびアルゴリズム2により、Tulap分布の裾確率を計算することで、正確な $p$-値を確立した。
• 同一の十分統計量とノイズ機構を用いることで、連続データのための分布フリー検定（例：符号検定、中央値検定）に対してもUMP検定構造が適用可能であることを示した。
• Tulap分布を用いて、プライバシー化された検定統計量の正確な標本分布を導出し、型Iエラーの正確な制御を可能にした。

実験結果

リサーチクエスチョン

• RQ1 $(\epsilon,\delta)$-微分プライバシー下で、二項比例のための一様に最強（UMP）検定を導出可能か？
• RQ2 微分プライバシー制約を満たしつつUMP検定を可能にする最適なノイズ分布は何か？
• RQ3 DP仮説検定に対して正確な $p$-値を計算可能か？漸近的近似に依存しないか？
• RQ4 UMP性は、微分プライバシー下での連続データのための分布フリー検定へも拡張可能か？
• RQ5 十分統計量の関数として、最適なDP検定の一般的特徴づけは可能か？（プライバシー制約下でも）

主な発見

• 二項データのDP-UMP検定は、完全十分統計量である標本和にのみ依存し、すべての$(\epsilon,\delta)$-DP検定の中で最適であることが示された。
• Truncated-Uniform-Laplace（Tulap）分布は、$(\epsilon,\delta)$-微分プライバシーを満たし、UMP検定のための最適なノイズ機構であることが証明された。
• Tulap分布に従う確率変数の後処理により正確な $p$-値が計算可能であり、名目水準での型Iエラーが正確に制御された。
• シミュレーションにより、DP-UMP検定はVuとSlavkovic（2009）の正規近似法よりも高い実効パワーを示したが、特に小標本では顕著であった。
• DP-UMP検定は、すべての$\theta_0$の値で正確な型Iエラー（$\alpha = 0.05$に近い）を維持したが、正規近似法は$\theta_0$の値によって型Iエラーが過剰または不足する傾向を示した。
• 同じプライバシー化された十分統計量とTulapノイズを用いることで、符号検定や中央値検定などの連続データのための分布フリー検定へもフレームワークを拡張可能である。