[论文解读] Privacy-Adversarial User Representations in Recommender Systems.

Yehezkel S. Resheff, Yanai Elazar+2 more|arXiv (Cornell University)|Jul 10, 2018

Privacy-Preserving Technologies in Data被引用 1

一句话总结

本文提出了一种隐私对抗框架，以减少推荐系统中用户表征对私有用户属性（如性别和年龄）的泄露。通过对抗性训练用户嵌入以最小化信息泄露，同时保持推荐性能，该方法在基准数据上显著降低了隐私与效用之间的权衡。

ABSTRACT

Latent factor models for recommender systems represent users and items as low dimensional vectors. Privacy risks have been previously studied mostly in the context of recovery of personal information in the form of usage records from the training data. However, the user representations themselves may be used together with external data to recover private user information such as gender and age. In this paper we show that user vectors calculated by a common recommender system can be exploited in this way. We propose the privacy-adversarial framework to eliminate such leakage, and study the trade-off between recommender performance and leakage both theoretically and empirically using a benchmark dataset. We briefly discuss further applications of this method towards the generation of deeper and more insightful recommendations.

研究动机与目标

• 调查潜在因子推荐系统中，用户嵌入是否可能被用于推断私有用户属性（例如性别、年龄）的风险。
• 解决标准用户表征学习中固有的隐私泄露问题，即使训练数据未被直接暴露。
• 开发一种框架，以最小化用户嵌入中的属性泄露，而不严重降低推荐准确率。
• 对用户表征中的推荐性能与隐私泄露之间的权衡进行实证和理论分析。

提出的方法

• 引入一种隐私对抗训练框架，使用户嵌入在对抗属性推断攻击下具有鲁棒性。
• 采用对抗性判别器来识别并最小化用户嵌入中敏感属性的泄露。
• 使用双目标优化：一个用于推荐性能（例如矩阵分解损失），另一个用于隐私（对抗性损失以抵抗属性推断）。
• 在标准基准数据集上应用该框架，以评估效用与隐私之间的权衡。
• 使用联合目标联合训练用户嵌入，以平衡推荐准确率与降低属性可预测性。
• 采用标准评估指标同时衡量推荐质量（例如RMSE、AUC）和隐私性（例如属性推断准确率）。

实验结果

研究问题

• RQ1 在推荐系统中，标准用户嵌入在多大程度上可以被用于推断性别和年龄等私有用户属性？
• RQ2 如何修改用户表征以降低此类属性推断的风险，同时不降低推荐质量？
• RQ3 在用户嵌入中应用对抗正则化时，推荐性能与隐私泄露之间的权衡如何？
• RQ4 所提出的框架能否在现实世界基准数据集上有效应用，同时保持实际可用性？

主要发现

• 标准推荐系统中的用户嵌入可被高精度地用于推断性别和年龄等私有属性。
• 所提出的隐私对抗框架成功将属性推断准确率降低至接近基线水平，显著限制了隐私泄露。
• 该方法在推荐性能与隐私之间实现了有利的权衡，在保持高实用性的同时最小化敏感信息暴露。
• 在基准数据集上的实证结果表明，该框架能有效抑制泄露，而不会显著降低推荐质量。