[论文解读] Feature Selection for Classification under Anonymity Constraint

Baichuan Zhang, Noman Mohammed+2 more|arXiv (Cornell University)|Dec 22, 2015

Privacy-Preserving Technologies in Data参考文献 42被引用 10

一句话总结

本文提出了一种在k-匿名性约束下用于二值分类数据集的隐私保护特征选择方法，通过引入'通过包含实现k-匿名性'来确保身份隐私，方法利用贪心算法与子模 utility 指标，在隐私与分类效用之间实现平衡，在真实世界数据集上表现出色，且特征抑制程度极低。

ABSTRACT

Over the last decade, proliferation of various online platforms and their increasing adoption by billions of users have heightened the privacy risk of a user enormously. In fact, security researchers have shown that sparse microdata containing information about online activities of a user although anonymous, can still be used to disclose the identity of the user by cross-referencing the data with other data sources. To preserve the privacy of a user, in existing works several methods (k-anonymity, l-diversity, differential privacy) are proposed that ensure a dataset which is meant to share or publish bears small identity disclosure risk. However, the majority of these methods modify the data in isolation, without considering their utility in subsequent knowledge discovery tasks, which makes these datasets less informative. In this work, we consider labeled data that are generally used for classification, and propose two methods for feature selection considering two goals: first, on the reduced feature set the data has small disclosure risk, and second, the utility of the data is preserved for performing a classification task. Experimental results on various real-world datasets show that the method is effective and useful in practice.

研究动机与目标

• 解决在用于分类的高维稀疏微观数据中保护用户隐私的挑战。
• 开发一种特征选择方法，确保k-匿名性的同时保持高分类任务效用。
• 提出一种新颖的匿名性度量方法——通过包含实现k-匿名性，适用于稀疏高维数据集。
• 使用子模 utility 函数优化特征选择，以支持高效贪心算法。
• 在真实世界数据集上展示该方法在强隐私-效用权衡下的有效性。

提出的方法

• 提出'通过包含实现k-匿名性'作为新的隐私度量标准，要求每个记录在所选特征子集中与至少k−1个其他记录不可区分。
• 将特征选择建模为一个优化问题，以在k-匿名性约束下最大化分类效用。
• 使用子模 utility 度量（如信息增益、基尼不纯度减少）以确保贪心算法能获得近似最优结果。
• 应用贪心前向选择算法，迭代添加能最大化效用且保持k-匿名性的特征。
• 通过将分类特征二值化，将方法扩展至分类特征，使其适用于非二值数据集。
• 使用标准分类模型（如决策树、支持向量机）评估特征子集，以衡量效用。

实验结果

研究问题

• RQ1 是否可以通过特征选择在不损害分类效用的前提下，实现在高维稀疏微观数据中的k-匿名性？
• RQ2 通过包含实现k-匿名性与传统k-匿名性相比，在隐私保护与数据效用方面表现如何？
• RQ3 子模 utility 度量是否能实现高效且有效的隐私约束下的特征选择？
• RQ4 在强制执行k-匿名性时，特征选择对分类准确率有何影响？
• RQ5 该方法在多种真实世界数据集上的可扩展性与鲁棒性如何？

主要发现

• 所提方法在极小特征抑制下实现了强k-匿名性，显著降低了高维数据中身份重新识别的风险。
• 使用子模 utility 度量使贪心算法能够选择高质量的特征子集，从而保持分类性能。
• 实验结果表明，该方法在满足用户定义的k-匿名性约束的同时，保持了高分类准确率（例如，在多个数据集上F1-score > 0.85）。
• 与现有方法（如基于CM的特征选择和基于泛化的匿名化）相比，该方法在隐私与效用度量上均表现更优。
• 在高维环境下，通过包含实现k-匿名性比传统k-匿名性更有效，因为它避免了过度的数据失真。
• 该方法在真实世界数据集上具有可扩展性和有效性，包括在二值化后处理分类特征的数据集上。