[论文解读] When Does Differentially Private Learning Not Suffer in High Dimensions?

Xuechen Li, Daogao Liu+5 more|arXiv (Cornell University)|Jul 1, 2022

Privacy-Preserving Technologies in Data被引用 8

一句话总结

本文指出，当梯度集中于低维子空间时，差分隐私随机梯度下降（DP-SGD）可在高维学习中实现与维度无关的性能表现。通过引入‘受限利普希茨连续性’，作者推导出在梯度投影幅度衰减时，过剩风险的上界与模型维度无关，从而解释了为何大规模预训练模型在差分隐私微调中仍能成功，尽管理论上预期性能会退化。

ABSTRACT

Large pretrained models can be privately fine-tuned to achieve performance approaching that of non-private models. A common theme in these results is the surprising observation that high-dimensional models can achieve favorable privacy-utility trade-offs. This seemingly contradicts known results on the model-size dependence of differentially private convex learning and raises the following research question: When does the performance of differentially private learning not degrade with increasing model size? We identify that the magnitudes of gradients projected onto subspaces is a key factor that determines performance. To precisely characterize this for private convex learning, we introduce a condition on the objective that we term \emph{restricted Lipschitz continuity} and derive improved bounds for the excess empirical and population risks that are dimension-independent under additional conditions. We empirically show that in private fine-tuning of large language models, gradients obtained during fine-tuning are mostly controlled by a few principal components. This behavior is similar to conditions under which we obtain dimension-independent bounds in convex settings. Our theoretical and empirical results together provide a possible explanation for recent successes in large-scale private fine-tuning. Code to reproduce our results can be found at \url{https://github.com/lxuechen/private-transformers/tree/main/examples/classification/spectral_analysis}.

研究动机与目标

• 解决差分隐私凸学习中理论预测的维度相关误差与大规模模型微调实际成功之间的明显矛盾。
• 识别在模型规模增大时，差分隐私学习不会退化的条件。
• 形式化一种新的分析条件——受限利普希茨连续性，以捕捉梯度集中如何实现与维度无关的隐私-效用权衡。
• 通过实证验证，表明大规模语言模型微调时的梯度主要由少数主成分主导，与理论条件一致。
• 为差分隐私下密集微调的有效性提供理论基础，无需算法修改或使用公开数据。

提出的方法

• 引入‘受限利普希茨连续性’——一种对目标函数的条件，通过考虑不同维度子空间上的梯度幅度，对标准利普希茨连续性进行推广。
• 在该条件下，推导出 DP-SGD 的过剩经验风险与总体风险的更优上界，表明当受限利普希茨系数随子空间维度快速衰减时，结果与维度无关。
• 分析梯度覆盖完整环境空间的无约束优化问题，尽管如此，误差上界仍保持与维度无关，原因在于子空间中的梯度集中。
• 利用谱分析对大规模语言模型微调梯度进行实证分析，表明大部分梯度能量集中于少数主成分。
• 将理论边界与先前工作进行比较，表明改进无需修改 DP-SGD 或依赖公开数据，与先前的子空间控制方法不同。
• 借助现有关于内在维度与海森子空间稳定性的研究成果，将实证发现置于深度学习泛化更广泛的研究背景中。

实验结果

研究问题

• RQ1 在何种条件下，差分隐私学习可避免随着模型维度增加而导致的性能退化？
• RQ2 当梯度覆盖完整空间时，能否为 DP-SGD 在无约束凸优化中推导出与维度无关的误差边界？
• RQ3 梯度在子空间上的投影幅度如何影响高维差分隐私学习中的隐私-效用权衡？
• RQ4 微调的大规模语言模型中的梯度在多大程度上位于低维子空间中？这是否能解释其在 DP 下的实证成功？
• RQ5 大规模私有微调的观察到的成功是否可在不依赖算法干预或公开数据的情况下，通过理论加以解释？

主要发现

• 所提出的受限利普希茨连续性条件允许在受限利普希茨系数随子空间维度快速衰减时，实现 DP-SGD 的与维度无关的过剩风险上界。
• 即使梯度覆盖完整环境空间，只要梯度在子空间上的投影幅度衰减足够快，DP-SGD 仍可实现与维度无关的误差。
• 实证分析表明，大规模语言模型微调的梯度主要集中在少数主成分中，支持了实现与维度无关性能的理论条件。
• 该理论框架解释了为何在 DP-SGD 下的密集微调可与稀疏微调一样有效，这与高维中性能退化的先前预期相反。
• 结果为在差分隐私下微调更大模型时观察到的效用增益提供了理论基础，且无需修改 DP-SGD 算法或访问公开数据。
• 该分析扩展了先前基于秩的边界工作，消除了梯度必须位于固定低秩子空间的限制，使该条件更具普遍适用性。