[论文解读] Generative Adversarial Privacy

Chong Huang, Peter Kairouz+3 more|arXiv (Cornell University)|Jul 13, 2018

Privacy-Preserving Technologies in Data参考文献 16被引用 40

一句话总结

GAP 通过私有化机制直接从数据中学习，在私有化者与对手之间的极小极大博弈中提供在所选损失函数下的隐私保证，并在 GENKI 面部数据集上进行评估。

ABSTRACT

We present a data-driven framework called generative adversarial privacy (GAP). Inspired by recent advancements in generative adversarial networks (GANs), GAP allows the data holder to learn the privatization mechanism directly from the data. Under GAP, finding the optimal privacy mechanism is formulated as a constrained minimax game between a privatizer and an adversary. We show that for appropriately chosen adversarial loss functions, GAP provides privacy guarantees against strong information-theoretic adversaries. We also evaluate GAP's performance on the GENKI face database.

研究动机与目标

• 以利用数据集统计信息的上下文感知隐私来推动私有数据发布。
• 提出一个数据驱动的私有化框架，在没有完整先验统计信息的情况下学习 g(X,Y)。
• 将隐私建模为私有化者与对手之间的受约束的极小极大博弈。
• 在真实数据集上演示 GAP，以说明隐私-效用权衡。

提出的方法

• 将 X 定义为公开变量，Y 定义为私有变量，成对 (X,Y) 从 P(X,Y) 中抽取。
• 引入私有化函数 hat{X}=g(X,Y) 和一个试图推断 Y 的对手 h(g(X,Y))。
• 设定带失真约束的受约束极小极大目标 min_g max_h -L(h,g)，满足 E[d(g(X,Y),X)] ≤ D。
• 给出 g 的两种数据驱动实现：前馈神经网络私有化器（FNNP）和转置卷积神经网络私有化器（TCNNP）。
• 将对手建模为一个神经网络分类器，以优化其对私有化者的损失，通过经验损失 L_n(θ_p,θ_a) 进行训练。
• 证明在 0-1 损失下进行硬判决时，GAP 收敛到基于 MAP 的隐私目标；在对数损失下进行软判决时，它等价于最小化互信息 I(g(X,Y);Y)。

实验结果

研究问题

• RQ1 在不知道 P(X,Y) 的全部信息的情况下，是否可以从数据中学习到数据驱动的私有化机制？
• RQ2 在不同对手损失函数（0-1 与对数损失）下，GAP 能实现怎样的隐私-效用权衡？
• RQ3 基于 GAN 的隐私机制是否在保持数据效用的同时，为强对手提供稳健的隐私保证？
• RQ4 不同的私有化器架构如何影响真实数据集上的隐私-效用权衡？

主要发现

• GAP 产生一个极小极大公式，在失真约束下在隐私与对手之间取得平衡。
• 在 0-1 损失下，对手的最优策略成为 MAP，GAP 等价于最大化正确猜测 Y 的概率。
• 在对数损失下，最优对手策略是后验分布，GAP 对应于最小化互信息 I(g(X,Y);Y)。
• 在 GENKI 数据集上，两种私有化器架构（FNNP 和 TCNNP）均显示随着失真增加，对手的性别分类准确度下降，其中 FNNP 在此设置下实现了更好的隐私保护。
• 私有化后的图像主要在眼睛、鼻子、嘴巴、胡须和头发等面部特征上显示出改动，表明对私有属性进行定向扰动以混淆。