[论文解读] Application-driven Privacy-preserving Data Publishing with Correlated Attributes

Aria Rezaei, Chaowei Xiao+3 more|arXiv (Cornell University)|Dec 26, 2018

Privacy-Preserving Technologies in Data参考文献 50被引用 6

一句话总结

本文提出 PR-GAN，一种新颖的隐私保护数据发布框架，利用生成对抗网络自动扰动传感器数据，在保留目标应用实用性的前提下隐藏敏感属性（例如身份），同时在 Pufferfish 框架下实现强隐私保障。通过建模目标属性与敏感属性之间的相关性，该方法在推理和训练实用性的表现上优于传统方法，且在跨未见群体迁移时性能下降最小。

ABSTRACT

Recent advances in computing have allowed for the possibility to collect large amounts of data on personal activities and private living spaces. To address the privacy concerns of users in this environment, we propose a novel framework called PR-GAN that offers privacy-preserving mechanism using generative adversarial networks. Given a target application, PR-GAN automatically modifies the data to hide sensitive attributes -- which may be hidden and can be inferred by machine learning algorithms -- while preserving the data utility in the target application. Unlike prior works, the public's possible knowledge of the correlation between the target application and sensitive attributes is built into our modeling. We formulate our problem as an optimization problem, show that an optimal solution exists and use generative adversarial networks (GAN) to create perturbations. We further show that our method provides privacy guarantees under the Pufferfish framework, an elegant generalization of the differential privacy that allows for the modeling of prior knowledge on data and correlations. Through experiments, we show that our method outperforms conventional methods in effectively hiding the sensitive attributes while guaranteeing high performance in the target application, for both property inference and training purposes. Finally, we demonstrate through further experiments that once our model learns a privacy-preserving task, such as hiding subjects' identity, on a group of individuals, it can perform the same task on a separate group with minimal performance drops.

研究动机与目标

• 解决非结构化传感器数据中因机器学习可推断出敏感属性（例如身份、位置）而导致的隐私泄露问题。
• 开发一种框架，在有效隐藏与目标属性相关的敏感属性的同时，保留数据在目标应用中的实用性。
• 建模并防御那些掌握目标属性与敏感属性之间相关性先验知识的攻击者。
• 在无需依赖可信第三方的情况下，实现在物联网和分布式传感环境中的私密数据发布。
• 确保隐私保护扰动在不同用户群体之间具有泛化能力，从而实现从集中式训练中部署可运行的模型。

提出的方法

• 将隐私保护数据发布问题建模为一个优化任务，以平衡目标函数的实用性与敏感属性的隐私性。
• 使用生成对抗网络（GAN）学习最小化目标应用实用性损失、同时最大化敏感属性隐私性的数据扰动。
• 引入 Pufferfish 隐私框架，以建模先验知识和敏感属性与目标属性之间的相关性，确保形式化的隐私保障。
• 训练生成器以生成在保持目标任务（例如楼层检测、身份分类）高准确率的同时，降低敏感属性推断准确率的扰动。
• 在训练过程中利用目标应用的标签，引导 GAN 生成与应用相关的扰动，以保留实用性。
• 通过在一组群体上训练扰动模型，并在新、未见的群体上部署，实现模型的可迁移性，且性能下降最小。

实验结果

研究问题

• RQ1 基于 GAN 的框架能否在保持目标应用高实用性的同时，有效隐藏传感器信号中的敏感属性？
• RQ2 与忽略相关性相比，建模目标属性与敏感属性之间的相关性在隐私保护方面有何改进？
• RQ3 在一组个体上训练的隐私保护扰动模型，能在多大程度上成功应用于完全不同的另一组群体？
• RQ4 与传统方法（例如 DP、AP）相比，所提出方法在隐私-实用性权衡方面表现如何？
• RQ5 经扰动的数据能否有效用于训练新模型，使其在干净数据上具有良好的泛化能力？

主要发现

• 在新群体上，PR-GAN 对敏感属性推断（身份）的准确率仅为 3.71%，表明具有强隐私保护能力。
• 在新群体上使用扰动数据进行推理时，目标应用的准确率仍保持在 86.9%，显示出极小的实用性损失。
• 在 WiFi 数据集上，PR-GAN 在隐私-实用性权衡方面持续优于 DP、AP 和基线 GAN 方法，尤其在较高实用性预算下表现更优。
• 用于训练时，扰动数据在 MNIST 上达到 96.72% 的准确率，在 PubFig 上达到 98.84%，在 WiFi 上达到 72.06%，在 OccuTherm 上达到 99.73%，接近干净数据的性能表现。
• 即使扰动模型从训练群体迁移到完全不同的、未见过的个体群体，该方法仍能保持高实用性与强隐私保护。
• 该框架在 Pufferfish 模型下提供形式化隐私保障，考虑了先验知识和属性相关性，从而增强对知情攻击者的防御能力。