[论文解读] Privacy Protection for Natural Language Records: Neural Generative Models for Releasing Synthetic Twitter Data

Alexander G. Ororbia, Fridolin Linder+1 more|arXiv (Cornell University)|Jun 3, 2016

Privacy-Preserving Technologies in Data参考文献 54被引用 4

一句话总结

本文提出用于生成隐私保护型Twitter数据的神经生成模型，通过风险与效用度量评估三种方法——删除法、差分隐私建模和神经生成——发现神经生成在保持较低识别风险的同时，能为复杂任务提供更高的效用。

ABSTRACT

In this paper we consider methods for sharing free text Twitter data, with the goal of protecting the privacy of individuals in the data while still releasing data that carries research value, i.e. minimizes risk and maximizes utility. We propose three protection methods: simple redaction of hashtags and twitter handles, an epsilon-differentially private Multinomial-Dirichlet synthesizer, and novel synthesis models based on a neural generative model. We evaluate these three methods using empirical measures of risk and utility. We define risk based on possible identification of users in the Twitter data, and we define utility based on two general language measures and two model-based tasks. We find that redaction maintains high utility for simple tasks but at the cost of high risk, while some neural synthesis models are able to produce higher levels of utility, even for more complicated tasks, while maintaining lower levels of risk. In practice, utility and risk present a trade-off, with some methods offering lower risk or higher utility. This work presents possible methods to approach the problem of privacy for free text and which methods could be used to meet different utility and risk thresholds.

研究动机与目标

• 为解决在保护个人隐私的同时共享自由文本Twitter数据的挑战。
• 评估能为自然语言任务保持高研究效用的隐私保护方法。
• 识别在隐私风险与数据效用之间实现良好权衡的方法。
• 从风险与效用角度，比较删除法、差分隐私建模与神经生成合成的差异。
• 根据期望的风险与效用阈值，为选择合成方法提供实用指导。

提出的方法

• 作者对话题标签和Twitter账号进行简单删除，以降低隐私风险。
• 他们开发了一种epsilon-差分隐私的多项式-狄利克雷生成器，以确保正式的隐私保障。
• 他们提出新颖的神经生成模型，基于原始Twitter文本进行训练，以生成保留语言模式的合成序列。
• 通过基于用户重新识别可能性的实证风险度量，评估合成数据。
• 效用通过两种通用语言度量和两种基于模型的下游任务进行衡量。
• 在风险与效用维度上对比各方法，以识别权衡关系。

实验结果

研究问题

• RQ1 不同数据发布方法如何影响Twitter文本中识别个人的风险？
• RQ2 神经生成模型在最小化隐私风险的同时，能在多大程度上保持语言效用？
• RQ3 不同合成技术在隐私风险与效用之间存在何种权衡？
• RQ4 差分隐私模型能否为自然语言研究任务保持足够的效用？
• RQ5 哪种方法能为特定研究需求提供隐私与效用的最佳平衡？

主要发现

• 删除法在简单任务中保持高效率用，但因残留标识符导致较高的隐私风险。
• 差分隐私的多项式-狄利克雷模型降低了风险，但复杂语言任务的效用有所下降。
• 神经生成模型在效用上优于删除法与差分隐私模型，尤其在复杂下游任务中表现更优。
• 部分神经生成模型在保持低识别风险的同时支持高级NLP任务，表明其具备强大的隐私-效用权衡能力。
• 结果表明，效用与风险本质上存在权衡，不存在在所有阈值下均最优的单一方法。
• 本研究证明，神经生成模型可有效用于发布具备强隐私保障与高研究价值的合成Twitter数据。