[论文解读] Revisiting Differentially Private Hypothesis Tests for Categorical Data

Yue Wang, Jae Wook Lee+1 more|arXiv (Cornell University)|Nov 11, 2015

Privacy-Preserving Technologies in Data参考文献 19被引用 44

一句话总结

本文提出了一种针对分类数据的差分隐私假设检验方法，通过使用新颖的渐近框架并调整检验统计量以考虑拉普拉斯噪声，有效校正了传统方法中因噪声导致的p值偏差。作者通过在小规模和大规模数据集上进行实验，验证了在不同隐私预算下，该方法可实现可靠且准确的卡方检验与似然比检验。

ABSTRACT

In this paper, we consider methods for performing hypothesis tests on data protected by a statistical disclosure control technology known as differential privacy. Previous approaches to differentially private hypothesis testing either perturbed the test statistic with random noise having large variance (and resulted in a significant loss of power) or added smaller amounts of noise directly to the data but failed to adjust the test in response to the added noise (resulting in biased, unreliable $p$-values). In this paper, we develop a variety of practical hypothesis tests that address these problems. Using a different asymptotic regime that is more suited to hypothesis testing with privacy, we show a modified equivalence between chi-squared tests and likelihood ratio tests. We then develop differentially private likelihood ratio and chi-squared tests for a variety of applications on tabular data (i.e., independence, sample proportions, and goodness-of-fit tests). Experimental evaluations on small and large datasets using a wide variety of privacy settings demonstrate the practicality and reliability of our methods.

研究动机与目标

• 解决在差分隐私假设检验中因直接添加噪声而导致p值偏差的问题。
• 在差分隐私约束下，为分类数据开发统计上有效的假设检验方法，同时保持准确的 I 类错误率。
• 弥合理论渐近结果与私有假设检验中实际性能之间的差距。
• 提供实用且可扩展的方法，用于在差分隐私下进行独立性检验、拟合优度检验和样本比例检验。

提出的方法

• 提出一种专为差分隐私下假设检验设计的新渐近框架，替代传统的样本量大时的近似方法。
• 推导出考虑数据中拉普拉斯噪声的修正检验统计量，通过将噪声尺度纳入渐近分布来实现。
• 应用 delta 方法与多变量正态近似，推导在噪声存在下的检验统计量的渐近分布。
• 采用基于抽样的p值计算方法：从注入噪声的零分布中生成参考检验统计量，以估计p值。
• 针对每类检验（独立性、比例、拟合优度），推导在零假设下噪声检验统计量的渐近分布。
• 采用噪声缩放因子 $ \kappa = 1/\sqrt{n_0} $，以确保噪声数据与渐近近似之间的一致性。

实验结果

研究问题

• RQ1 当噪声被直接添加到数据中时，差分隐私假设检验能否保持准确的p值？
• RQ2 如何调整检验统计量的渐近分布，以考虑分类数据中差分隐私噪声的影响？
• RQ3 所提出的私有检验方法是否相比现有方法具有更高的统计功效与可靠性？
• RQ4 能否使私有假设检验在不同数据规模和隐私预算下具备实用性与可扩展性？

主要发现

• 所提方法产生的p值无偏，与以往输入扰动方法相比，后者会产生严重偏差，例如在 2×2 表中，真实p值为 0.0876，而传统方法却得到 0.0084。
• 在零假设下，检验统计量的渐近分布被证明等价于经典卡方或似然比分布的噪声版本。
• 实验表明，该方法在多种隐私预算和数据规模下均能实现可靠的 I 类错误控制，涵盖小规模与大规模数据集。
• 与直接将经典检验统计量应用于噪声数据的朴素方法相比，采用噪声感知渐近框架显著提升了p值的准确性。
• 理论结果得到实证验证，表明所提检验在强隐私约束（如 ε = 0.2）下仍能保持正确的统计行为。