[论文解读] Privacy Games: Optimal Protection Mechanism Design for Bayesian and Differential Privacy.

Reza Shokri|arXiv (Cornell University)|Feb 14, 2014

Privacy-Preserving Technologies in Data参考文献 30被引用 4

一句话总结

该论文设计了自适应混淆机制，联合实现差分隐私与失真隐私，最小化效用损失的同时最大化对最优推理攻击的防护。所提出的机制通过将机制设计者与攻击者之间的互动建模为领导者-追随者博弈，实现最优隐私与效用，确保对任何推理算法均具备鲁棒性。

ABSTRACT

In this paper, we design user-centric obfuscation mechanisms that impose the minimum utility loss for guaranteeing user's privacy. We optimize utility subject to a joint guarantee of differential privacy (indistinguishability) and distortion privacy (inference error). This double shield of protection limits the information leakage through obfuscation mechanism as well as the posterior inference. We show that the privacy achieved through joint differential-distortion mechanisms against optimal attacks is as large as the maximum privacy that can be achieved by either of these mechanisms separately. Their utility cost is also not larger than what either of the differential or distortion mechanisms imposes. We model the optimization problem as a leader-follower game between the designer of obfuscation mechanism and the potential adversary, and design adaptive mechanisms that anticipate and protect against optimal inference algorithms. Thus, the obfuscation mechanism is optimal against any inference algorithm.

研究动机与目标

• 设计以用户为中心的混淆机制，最小化效用损失的同时保证强隐私保障。
• 联合实施差分隐私（不可区分性）与失真隐私（推理误差）作为双重保护机制。
• 将混淆机制设计者与攻击者之间的互动建模为领导者-追随者博弈，以预判最优推理攻击。
• 通过自适应调整以应对攻击者的策略，确保混淆机制对任何推理算法均保持最优。
• 证明联合隐私机制的隐私水平与效用成本不低于单独使用任一机制时的表现。

提出的方法

• 将隐私保护问题形式化为领导者-追随者博弈，其中机制设计者作为领导者，攻击者作为追随者。
• 引入联合隐私约束，结合差分隐私（DP）与失真隐私（DP），确保不可区分性与有界推理误差。
• 通过博弈论均衡分析，优化混淆机制以在双重隐私约束下最小化效用损失。
• 推导出自适应混淆策略，以预判并应对攻击者可能采用的最优推理算法。
• 使用数学优化方法刻画在联合约束下平衡隐私与效用的最优机制。
• 证明联合机制在隐私与效用表现上至少不劣于单独使用任一机制的情况。

实验结果

研究问题

• RQ1 如何设计混淆机制，以在确保强隐私保障的同时最小化效用损失？
• RQ2 在单一机制中联合使用差分隐私与失真隐私时，其隐私-效用权衡关系如何？
• RQ3 联合隐私机制是否能优于或至少匹配单独机制在隐私与效用方面的表现？
• RQ4 将互动建模为领导者-追随者博弈如何提升混淆机制对最优推理攻击的鲁棒性？
• RQ5 联合机制是否对任何推理算法均最优？其与独立机制相比表现如何？

主要发现

• 联合的差分-失真隐私机制实现了与两个独立机制中最佳者相当的隐私水平，且未牺牲隐私保障。
• 联合机制的效用成本不低于单独使用差分隐私或失真隐私机制时的水平。
• 所提出的混淆机制对任何推理算法均最优，因其通过博弈论设计预判并应对攻击者的最优策略。
• 该机制性能稳健：即使攻击者使用最有效的推理算法，也能维持强隐私保护。
• 理论分析证实，联合机制在隐私与效用之间提供了帕累托最优的权衡。
• 该框架支持自适应混淆，可动态调整以应对威胁模型，确保在不确定性下的最优保护。