[论文解读] Simultaneous Discrimination Prevention and Privacy Protection in Data Publishing and Mining

Sara Hajian|arXiv (Cornell University)|Jun 28, 2013

Privacy-Preserving Technologies in Data被引用 5

一句话总结

本文提出了一种统一框架，用于在数据发布与挖掘中同时防止歧视并保护隐私。该框架引入了诸如规则保护和全域泛化等转换技术，在最大限度减少性能开销的前提下，保留数据可用性，同时消除直接和间接歧视，并确保 k-匿名性，与仅保护隐私的解决方案相比性能损失极小。

ABSTRACT

Data mining is an increasingly important technology for extracting useful knowledge hidden in large collections of data. There are, however, negative social perceptions about data mining, among which potential privacy violation and potential discrimination. Automated data collection and data mining techniques such as classification have paved the way to making automated decisions, like loan granting/denial, insurance premium computation. If the training datasets are biased in what regards discriminatory attributes like gender, race, religion, discriminatory decisions may ensue. In the first part of this thesis, we tackle discrimination prevention in data mining and propose new techniques applicable for direct or indirect discrimination prevention individually or both at the same time. We discuss how to clean training datasets and outsourced datasets in such a way that direct and/or indirect discriminatory decision rules are converted to legitimate (non-discriminatory) classification rules. In the second part of this thesis, we argue that privacy and discrimination risks should be tackled together. We explore the relationship between privacy preserving data mining and discrimination prevention in data mining to design holistic approaches capable of addressing both threats simultaneously during the knowledge discovery process. As part of this effort, we have investigated for the first time the problem of discrimination and privacy aware frequent pattern discovery, i.e. the sanitization of the collection of patterns mined from a transaction database in such a way that neither privacy-violating nor discriminatory inferences can be inferred on the released patterns. Moreover, we investigate the problem of discrimination and privacy aware data publishing, i.e. transforming the data, instead of patterns, in order to simultaneously fulfill privacy preservation and discrimination prevention.

研究动机与目标

• 解决数据挖掘与发布中的隐私侵犯和歧视性结果双重威胁。
• 开发方法以检测并消除训练数据集和发布数据中的直接与间接歧视。
• 将隐私保护技术（如 k-匿名性）与歧视感知转换相结合，实现全面保护。
• 确保所引入的保护措施不会显著降低数据可用性或性能。
• 通过将技术防护措施与隐私和非歧视性监管标准对齐，实现数据发布在法律和伦理上的合规性。

提出的方法

• 提出直接规则保护（DRP）和规则泛化（RG），以转换分类规则并消除直接歧视。
• 引入间接规则保护（IRP），以检测并缓解非歧视性属性与受保护群体之间的相关性。
• 开发联合转换流程，以同时防止直接与间接歧视。
• 将 k-匿名性原则扩展为 α-保护，确保泛化既具备隐私保护性，又具备反歧视性。
• 将 α-保护模型与 Incognito 算法集成，生成既满足 k-匿名性又具备反歧视保护的数据发布版本。
• 应用差分隐私与全域泛化技术于频繁模式发现，确保从发布模式中无法推断出任何隐私侵犯或歧视性结论。

实验结果

研究问题

• RQ1 如何在不降低数据可用性的情况下，同时检测并缓解数据挖掘中的直接与间接歧视？
• RQ2 基于 k-匿名性的泛化技术在多大程度上可扩展以同时防止发布数据集中的歧视？
• RQ3 能否增强隐私保护的数据发布技术，使其同时防范隐私泄露和歧视性推断？
• RQ4 与独立的隐私保护相比，应用联合隐私与反歧视转换的性能与可用性成本如何？
• RQ5 如何使发布输出中的频繁模式挖掘既具备隐私意识，又具备反歧视意识？

主要发现

• 所提出的 α-保护机制成功结合了 k-匿名性与反歧视保护，数据失真程度与标准 k-匿名化相当。
• 在 k-匿名全域泛化中，部分 α-保护的子集实现的可用性几乎与标准 k-匿名化相同，表明开销极低。
• α-保护版本的 Incognito 算法生成的数据发布结果既具备隐私保护性，又无歧视性，执行时间接近原始 Incognito 算法。
• 在频繁模式发现中集成隐私与反歧视技术，可确保从发布模式中无法推断出任何隐私侵犯或歧视性结论。
• 实验表明，同时实施隐私与歧视保护对数据质量的影响极小——仅略高于仅隐私保护的情况。
• 该框架通过在数据转换中整合基于法律的歧视性衡量标准，支持法律合规性，实现伦理数据发布。