[論文レビュー] Revisiting Differentially Private Hypothesis Tests for Categorical Data

Yue Wang, Jae Wook Lee+1 more|arXiv (Cornell University)|Nov 11, 2015

Privacy-Preserving Technologies in Data参考文献 19被引用数 44

ひとこと要約

本稿では、従来のアプローチにおけるノイズの影響によって生じるp値のバイアスを是正する、カテゴリカルデータ向けのプライバシー保護型仮説検定を提案する。著者らは、独自の漸近的枠組みを用い、ラプラスノイズを考慮して検定統計量を調整することで、正確なp値を保証する信頼性の高いカイ二乗検定および尤度比検定を構築した。実験により、さまざまなプライバシー予算下での小規模および大規模データセットにおいて、その有効性が検証された。

ABSTRACT

In this paper, we consider methods for performing hypothesis tests on data protected by a statistical disclosure control technology known as differential privacy. Previous approaches to differentially private hypothesis testing either perturbed the test statistic with random noise having large variance (and resulted in a significant loss of power) or added smaller amounts of noise directly to the data but failed to adjust the test in response to the added noise (resulting in biased, unreliable $p$-values). In this paper, we develop a variety of practical hypothesis tests that address these problems. Using a different asymptotic regime that is more suited to hypothesis testing with privacy, we show a modified equivalence between chi-squared tests and likelihood ratio tests. We then develop differentially private likelihood ratio and chi-squared tests for a variety of applications on tabular data (i.e., independence, sample proportions, and goodness-of-fit tests). Experimental evaluations on small and large datasets using a wide variety of privacy settings demonstrate the practicality and reliability of our methods.

研究の動機と目的

• プライバシー保護型仮説検定におけるノイズの単純な追加が原因で生じるp値のバイアスを是正すること。
• 差分プライバシー下でカテゴリカルデータの統計的妥当な仮説検定を開発し、正確な第一種の過誤率を維持すること。
• プライベート仮説検定における理論的漸近的結果と実証的性能を調和させること。
• 差分プライバシー下での独立性検定、適合度検定、標本比率検定に対して実用的でスケーラブルな手法を提供すること。

提案手法

• 差分プライバシー下での仮説検定に特化した新しい漸近的枠組みを導入し、標準的な大標本近似を置き換える。
• ノイズスケールを漸近的分布に組み込むことで、データ内のラプラスノイズを考慮した修正された検定統計量を導出する。
• デルタ法および多変量正規近似を用いて、ノイズを含む状況下での検定統計量の漸近的分布を導出する。
• サンプリングに基づくp値計算を採用：ノイズを注入した帰無仮説分布から参照用の検定統計量を生成し、p値を推定する。
• 各検定タイプ（独立性、比率、適合度）について、帰無仮説下でのノイズ付き検定統計量の漸近的分布を導出する。
• ノイズのスケーリング要因 $ \kappa = 1/\sqrt{n_0} $ を用いて、ノイズ付きデータと漸近的近似との一貫性を保証する。

実験結果

リサーチクエスチョン

• RQ1 直接的にデータにノイズを追加した場合、プライバシー保護型仮説検定が正確なp値を維持できるか？
• RQ2 カテゴリカルデータにおける差分プライバシーのノイズを考慮して、検定統計量の漸近的分布をどのように調整できるか？
• RQ3 提案手法のプライベート検定は、既存の手法に比べてより高い統計的パワーと信頼性を達成できるか？
• RQ4 さまざまなデータサイズおよびプライバシー予算において、プライベート仮説検定を実用的かつスケーラブルに実装できるか？

主な発見

• 提案手法は、p値にバイアスを生じさせない。これに対して、従来の入力摂動法では、2×2表においてp値が0.0876ではなく0.0084にまで歪められる深刻なバイアスが生じる。
• 帰無仮説下での検定統計量の漸近的分布が、古典的なカイ二乗分布または尤度比分布のノイズ付き版と等価であることが示された。
• 実験により、小規模および大規模データセットにおいて、さまざまなプライバシー予算下で、第一種の過誤率が信頼性を持って制御されていることが確認された。
• ノイズを考慮した漸近的枠組みを用いることで、ノイズ付きデータに古典的検定統計量を単純に適用する手法に比べ、p値の精度が著しく向上した。
• 理論的結果が実証的に検証され、強いプライバシー制約（例：ε = 0.2）下でも、提案手法の検定が正しい統計的挙動を維持していることが示された。