[论文解读] Privacy-preserving Prediction

Cynthia Dwork, Vitaly Feldman|arXiv (Cornell University)|Mar 27, 2018

Privacy-Preserving Technologies in Data参考文献 24被引用 19

一句话总结

本文提出了一种新颖的隐私保护机器学习方法，通过确保单个预测的差分隐私而非整个模型的差分隐私，利用非私有模型的私有聚合实现。该方法在布尔函数类上实现了近乎最优的样本复杂度，并通过利用差分隐私预测算法的强泛化保证，改进了阈值和凸回归任务的先前方法。

ABSTRACT

Ensuring differential privacy of models learned from sensitive user data is an important goal that has been studied extensively in recent years. It is now known that for some basic learning problems, especially those involving high-dimensional data, producing an accurate private model requires much more data than learning without privacy. At the same time, in many applications it is not necessary to expose the model itself. Instead users may be allowed to query the prediction model on their inputs only through an appropriate interface. Here we formulate the problem of ensuring privacy of individual predictions and investigate the overheads required to achieve it in several standard models of classification and regression. We first describe a simple baseline approach based on training several models on disjoint subsets of data and using standard private aggregation techniques to predict. We show that this approach has nearly optimal sample complexity for (realizable) PAC learning of any class of Boolean functions. At the same time, without strong assumptions on the data distribution, the aggregation step introduces a substantial overhead. We demonstrate that this overhead can be avoided for the well-studied class of thresholds on a line and for a number of standard settings of convex regression. The analysis of our algorithm for learning thresholds relies crucially on strong generalization guarantees that we establish for all differentially private prediction algorithms.

研究动机与目标

• 解决机器学习中的隐私风险，即攻击者可通过黑箱访问预测模型推断敏感信息。
• 探究确保单个预测的差分隐私（而非整个模型）是否可降低差分隐私学习中常见的样本复杂度开销。
• 开发并分析在保持高准确率的同时为单个预测提供隐私保护的算法。
• 探索非私有模型的私有聚合是否可实现比完全私有模型训练更高的效率。
• 为差分隐私预测接口建立泛化边界，以支持更优的算法设计。

提出的方法

• 提出一种新隐私模型，仅预测接口满足差分隐私，而非底层模型。
• 提出一种基线方法，使用不相交的数据子集，并对非私有模型的预测结果进行私有聚合。
• 提出一种新颖算法，用于在线上学习阈值，通过利用强泛化保证避免私有聚合的开销。
• 使用矩量分析和马尔可夫不等式，推导差分隐私预测算法的泛化边界。
• 将该框架应用于凸回归任务，并在标准设置下展示了改进的样本复杂度。
• 引入统一预测稳定性概念，以减少基于聚合方法的隐私开销。

实验结果

研究问题

• RQ1 确保单个预测的差分隐私是否可降低相比私有模型训练的样本复杂度开销？
• RQ2 在缺乏对数据分布强假设的前提下，差分隐私预测的最优样本复杂度是多少？
• RQ3 非私有模型的私有聚合是否可实现布尔函数类的近似最优样本复杂度？
• RQ4 如何利用强泛化保证设计高效的差分隐私预测算法？
• RQ5 对于特定问题（如阈值或凸回归），能否避免私有聚合中的隐私开销？

主要发现

• 非私有模型的私有聚合在任意布尔函数类的PAC学习中实现了近乎最优的样本复杂度。
• 对于线上的阈值学习，所提算法通过利用强泛化保证避免了私有聚合的开销。
• 引理6.5中的泛化边界表明，新数据集上的期望误差以 α·e²√(ε ln(1/β)) 为上界，置信度至少为 1−β。
• 该方法消除了标准差分隐私学习中在高维数据下存在的维度相关样本复杂度惩罚。
• 分析表明，差分隐私预测可带来强泛化性能，尽管其泛化能力弱于使用差分隐私训练的模型。
• 泛化边界中的因子 e²√(ε ln(1/β)) 暗示存在改进空间，因为理论上可能实现 e^O(ε) 的形式。