[论文解读] A Stackelberg Game Perspective on the Conflict Between Machine Learning and Data Obfuscation

Jeffrey Pawlick, Quanyan Zhu|arXiv (Cornell University)|Aug 8, 2016

Privacy-Preserving Technologies in Data参考文献 13被引用 3

一句话总结

本文将机器学习者与数据混淆用户的策略性冲突建模为N+1人Stackelberg博弈，其中学习者首先承诺隐私水平，用户则通过向其数据添加噪声来响应。关键发现是，学习者可通过主动扰动自身数据来提升准确率与效用，从而缓解用户层面混淆带来的负面影响，并使隐私保护对学习者而言具有激励相容性。

ABSTRACT

Data is the new oil; this refrain is repeated extensively in the age of internet tracking, machine learning, and data analytics. As data collection becomes more personal and pervasive, however, public pressure is mounting for privacy protection. In this atmosphere, developers have created applications to add noise to user attributes visible to tracking algorithms. This creates a strategic interaction between trackers and users when incentives to maintain privacy and improve accuracy are misaligned. In this paper, we conceptualize this conflict through an N+1-player, augmented Stackelberg game. First a machine learner declares a privacy protection level, and then users respond by choosing their own perturbation amounts. We use the general frameworks of differential privacy and empirical risk minimization to quantify the utility components due to privacy and accuracy, respectively. In equilibrium, each user perturbs her data independently, which leads to a high net loss in accuracy. To remedy this scenario, we show that the learner improves his utility by proactively perturbing the data himself. While other work in this area has studied privacy markets and mechanism design for truthful reporting of user information, we take a different viewpoint by considering both user and learner perturbation.

研究动机与目标

• 将机器学习者与注重隐私的用户所进行的数据混淆行为建模为一个博弈论问题。
• 分析当用户根据学习者公布的隐私水平独立选择其自身扰动量时的均衡行为。
• 量化在此策略性设定下，通过差分隐私（DP）衡量的隐私与通过经验风险最小化（ERM）衡量的准确率之间的权衡。
• 研究学习者是否以及如何通过主动扰动数据来抵消用户混淆，从而提升自身效用。
• 证明主动学习者扰动可使隐私保护对学习者具有激励相容性，并减少整体准确率损失。

提出的方法

• 将互动建模为N+1人扩展的Stackelberg博弈，学习者作为领导者，N名用户作为跟随者。
• 使用差分隐私（DP）量化隐私损失，参数为εp，并使用经验风险最小化（ERM）衡量预测准确率。
• 引入用户扰动向量vi与学习者扰动向量wi，总噪声为ui = vi + wi。
• 基于L2正则化ERM与损失函数的Lipschitz条件，推导未扰动与扰动分类器之间差异的界。
• 应用浓度不等式与卡方尾部界，对噪声引起的期望损失差异进行概率性界约束。
• 建立均衡条件并分析学习者在用户响应下的最优策略，表明主动扰动可减少净准确率损失。

实验结果

研究问题

• RQ1 在策略性设定下，用户层面的数据混淆如何影响机器学习模型的准确率？
• RQ2 当用户根据学习者公布的隐私水平独立选择扰动水平时，均衡结果是什么？
• RQ3 即使用户已在混淆数据，机器学习者是否仍可通过主动扰动数据来提升自身效用？
• RQ4 在用户混淆的情况下，隐私保护在何种条件下对学习者具有激励相容性？
• RQ5 用户与学习者共同扰动如何影响学习系统的整体准确率？

主要发现

• 在均衡状态下，用户独立地对其数据进行扰动，导致因独立噪声叠加而产生显著的模型准确率净损失。
• 当用户进行混淆时，学习者的效用下降，因为双方产生的联合噪声会降低模型性能。
• 学习者主动扰动可减轻用户混淆的负面影响，通过降低训练数据中的有效噪声水平来实现。
• 当用户混淆成本较高时，学习者通过自身扰动可实现更高效用，从而使隐私保护对学习者具有激励相容性。
• 理论界表明，最优分类器与扰动分类器之间期望损失差异与噪声幅度平方和成正比，且以高概率成立。
• 分析表明，学习者可通过战略性地选择扰动水平，使用户过度混淆的动机减弱，从而实现有利的均衡。