[论文解读] Privacy Preserving ID3 over Horizontally, Vertically and Grid Partitioned Data

Bart Kuijpers, Vanessa Lemmens+2 more|ArXiv.org|Mar 11, 2008

Privacy-Preserving Technologies in Data参考文献 11被引用 7

一句话总结

本文提出了一种针对网格分区数据（即数据在水平和垂直方向上均分布）的隐私保护ID3决策树学习方法，采用安全多方计算技术。提出两种协议：先水平合并再垂直计算，或反之。通过复杂度分析表明，由于优化了安全计算并减少了对昂贵电路协议的依赖，先水平合并的方案更高效。

ABSTRACT

We consider privacy preserving decision tree induction via ID3 in the case where the training data is horizontally or vertically distributed. Furthermore, we consider the same problem in the case where the data is both horizontally and vertically distributed, a situation we refer to as grid partitioned data. We give an algorithm for privacy preserving ID3 over horizontally partitioned data involving more than two parties. For grid partitioned data, we discuss two different evaluation methods for preserving privacy ID3, namely, first merging horizontally and developing vertically or first merging vertically and next developing horizontally. Next to introducing privacy preserving data mining over grid-partitioned data, the main contribution of this paper is that we show, by means of a complexity analysis that the former evaluation method is the more efficient.

研究动机与目标

• 解决在数据既水平又垂直分区的场景下隐私保护决策树归纳的问题，这是现实中常见但研究不足的情况。
• 首次在文献中形式化定义网格分区数据的概念，即结合水平与垂直数据分布的场景。
• 将现有的隐私保护ID3协议（此前仅适用于水平或垂直分布）扩展至更复杂的网格分区设置。
• 比较两种针对网格分区数据的评估策略：先水平合并再垂直计算，与反之的顺序。
• 提供复杂度分析，以说明哪种协议策略在计算与通信成本方面更高效。

提出的方法

• 本文提出一种针对多于两个参与方的水平分区数据的ID3安全多方计算协议，采用安全集合合并与加密计算技术。
• 针对网格分区数据，提出两种协议：一种先在各方之间水平合并数据，再执行垂直计算；另一种则顺序相反。
• 使用安全集合交集大小协议，跨分布式各方计算每类与属性值的事务计数，确保隐私性。
• 协议利用相邻参与方之间的共享加密密钥，避免在集合合并后重复执行安全集合交集操作，从而提升效率。
• 采用 $x\ln{x}$ 协议进行熵的安全计算，通过电路方法近似实现，同时支持使用安全求和协议处理更大规模群体。
• 基于数据规模、参与方数量、属性数与类别数，分析计算与通信成本，并推导出相应表达式。

实验结果

研究问题

• RQ1 当数据在多个参与方之间既水平又垂直分区时，是否可行通过安全方式构建ID3决策树？
• RQ2 先水平合并再垂直计算，与先垂直合并再水平计算的方案相比，其计算与通信成本有何差异？
• RQ3 在网格分区设置中，通过在相邻参与方之间重用加密密钥，能否优化安全多方计算技术？
• RQ4 使用近似安全协议（如 $x\ln{x}$）对隐私保护决策树归纳的准确性与效率有何影响？
• RQ5 在网格分区数据中，安全计算的复杂度如何随参与方数量、属性数与类别数而变化？

主要发现

• 针对多于两个参与方的水平分区数据，隐私保护ID3协议被成功扩展，同时保持了安全性和正确性。
• 本研究首次正式定义并引入了网格分区数据的概念，即结合水平与垂直数据分布的场景，此前该设置在隐私保护数据挖掘领域尚未被研究。
• 复杂度分析表明，先水平合并再垂直计算的方案在计算与通信成本上均低于反向顺序。
• 先水平合并的方案因减少了对昂贵电路协议（如 $x\ln{x}$）的使用，因此在实际应用中更具效率。
• 通过在相邻参与方之间重用加密密钥，协议避免了合并后重复执行安全集合交集操作，显著提升了效率。
• 先水平合并协议的通信成本为 $O(|R|(v+d)(h^{2}|T|t))$，计算成本为 $O(|R|(v+d+m)(h^{2}|T|t^{3}))$，两者均低于先垂直合并的方案。