[论文解读] Optimal User-Centric Data Obfuscation

Reza Shokri|arXiv (Cornell University)|Feb 14, 2014

Privacy-Preserving Technologies in Data被引用 8

一句话总结

本文提出了一种以用户为中心的数据混淆框架，联合强制实施差分隐私和失真隐私，以最小化效用损失并最大化隐私保护。通过将交互建模为混淆器与攻击者之间的领导者-追随者博弈，该方法设计了对最优推断攻击具有鲁棒性的自适应机制，实现的隐私水平与单独使用任一隐私机制相比均相等或更优，且与单独方法相比无额外效用成本增加。

ABSTRACT

In this paper, we design user-centric obfuscation mechanisms that impose the minimum utility loss for guaranteeing user's privacy. We optimize utility subject to a joint guarantee of differential privacy (indistinguishability) and distortion privacy (inference error). This double shield of protection limits the information leakage through obfuscation mechanism as well as the posterior inference. We show that the privacy achieved through joint differential-distortion mechanisms against optimal attacks is as large as the maximum privacy that can be achieved by either of these mechanisms separately. Their utility cost is also not larger than what either of the differential or distortion mechanisms imposes. We model the optimization problem as a leader-follower game between the designer of obfuscation mechanism and the potential adversary, and design adaptive mechanisms that anticipate and protect against optimal inference algorithms. Thus, the obfuscation mechanism is optimal against any inference algorithm.

研究动机与目标

• 设计数据混淆机制，以最小化效用损失，同时为用户提供强有力的隐私保障。
• 联合强制实施差分隐私与失真隐私，以防范混淆泄露和后验推断攻击。
• 将混淆过程建模为混淆器与攻击者之间的领导者-追随者博弈，以预测最优推断策略。
• 开发对任何推断算法均最优的自适应混淆机制。
• 证明联合隐私机制实现的隐私水平与最佳单一机制相当，且不增加效用成本。

提出的方法

• 将混淆设计建模为领导者-追随者博弈，其中混淆器先行行动，预判攻击者的最优推断策略。
• 整合两种隐私约束：差分隐私（不可区分性）和失真隐私（有界推断误差）。
• 在联合隐私约束下优化混淆机制，以最大化数据效用。
• 利用博弈论均衡推导出对最优推断算法具有鲁棒性的混淆策略。
• 采用自适应机制，动态响应潜在的推断模式，确保在各类攻击模型下均具备鲁棒性。
• 在限制通过机制泄露的信息量以及后验推断准确率的约束下求解优化问题。

实验结果

研究问题

• RQ1 结合差分隐私与失真隐私的联合隐私机制是否能实现优于或等同于单独使用任一机制的隐私水平？
• RQ2 在同时强制实施差分隐私与失真隐私的情况下，可实现的最小效用损失是多少？
• RQ3 如何设计对最优推断攻击具有鲁棒性的混淆机制？
• RQ4 联合使用隐私机制是否会导致比单独使用任一机制更高的效用成本？
• RQ5 能否使用博弈论框架设计出能够预判并对抗最优推断算法的混淆器？

主要发现

• 联合的差分-失真隐私机制实现的隐私水平与单独使用任一机制所能达到的最大隐私水平相当。
• 联合机制的效用成本不高于单独使用差分隐私或失真隐私的水平。
• 所提出的混淆机制对任何推断算法均最优，因其预判并抵消了攻击者的最优策略。
• 博弈论框架确保混淆器的策略在面对最优推断攻击时依然保持鲁棒性。
• 该框架支持自适应混淆，可在保持高数据效用的同时提供强大且双层的隐私保护。
• 结果表明，联合使用隐私机制不会损害效用，反而能增强整体隐私保障。