[论文解读] Privacy-Preserving and Outsourced Multi-User k-Means Clustering

Bharath K. Samanthula, Fang-Yu Rao+3 more|arXiv (Cornell University)|Dec 14, 2014

Privacy-Preserving Technologies in Data参考文献 2被引用 4

一句话总结

该论文提出了一种新颖的隐私保护且可外包的多用户k-means聚类协议（PPODC），使n名用户能够安全地将加密数据外包至联邦云环境以实现协作聚类。通过一种高效的转换技术消除安全除法操作，该协议在半诚实模型下确保了数据机密性，同时用户端计算开销可忽略不计，云端计算复杂度与数据量、属性数及聚类数呈线性关系。

ABSTRACT

Many techniques for privacy-preserving data mining (PPDM) have been investigated over the past decade. Often, the entities involved in the data mining process are end-users or organizations with limited computing and storage resources. As a result, such entities may want to refrain from participating in the PPDM process. To overcome this issue and to take many other benefits of cloud computing, outsourcing PPDM tasks to the cloud environment has recently gained special attention. We consider the scenario where n entities outsource their databases (in encrypted format) to the cloud and ask the cloud to perform the clustering task on their combined data in a privacy-preserving manner. We term such a process as privacy-preserving and outsourced distributed clustering (PPODC). In this paper, we propose a novel and efficient solution to the PPODC problem based on k-means clustering algorithm. The main novelty of our solution lies in avoiding the secure division operations required in computing cluster centers altogether through an efficient transformation technique. Our solution builds the clusters securely in an iterative fashion and returns the final cluster centers to all entities when a pre-determined termination condition holds. The proposed solution protects data confidentiality of all the participating entities under the standard semi-honest model. To the best of our knowledge, ours is the first work to discuss and propose a comprehensive solution to the PPODC problem that incurs negligible cost on the participating entities. We theoretically estimate both the computation and communication costs of the proposed protocol and also demonstrate its practical value through experiments on a real dataset.

研究动机与目标

• 解决在计算能力有限的环境中进行隐私保护分布式聚类（PPDC）的挑战，这些环境中用户缺乏足够的计算能力。
• 通过将聚类任务安全外包至云环境，克服现有PPDC解决方案中通信与计算开销过高的问题。
• 在具有两个不可信云服务提供商的联邦云模型下，设计一种实用、高效且隐私保护的多用户k-means聚类解决方案。
• 在整个聚类过程中确保所有用户的原始数据保密，且无需在任何阶段进行解密。
• 将用户端的计算开销最小化至接近零，同时保持强隐私保障，并支持大规模数据集的可扩展性。

提出的方法

• 采用联邦云架构，利用两个不可信的云服务提供商（如Amazon和Google）联合对加密数据执行聚类计算。
• 应用一种新颖的转换技术，在加密数据上构建保持顺序的欧几里得距离函数，避免对安全除法操作的需求。
• 设计一种迭代聚类协议，通过同态加密和安全比较协议安全地计算聚类中心。
• 基于聚类中心收敛性设计一种安全的终止检测机制，通过基于阈值的检查在加密数据上进行评估。
• 将聚类过程分解为四个阶段：(1) 安全数据聚合与距离计算，(2) 聚类分配，(3) 安全中心重计算，(4) 收敛性检查。
• 通过在第二阶段实现记录级别的并行化处理，利用Spark或Hadoop等云原生并行处理框架优化性能。

实验结果

研究问题

• RQ1 如何在不泄露任何敏感信息的前提下，对来自多个用户的加密数据安全地执行k-means聚类？
• RQ2 哪些技术可以消除隐私保护聚类中对安全除法操作的需求，从而降低计算开销？
• RQ3 在具有两个不可信云服务提供商的联邦云模型下，能否实现高效且私密的聚类，同时最小化用户端计算量？
• RQ4 该协议在大规模数据集（记录数、属性数和聚类数可变）上的可扩展性与性能权衡如何？
• RQ5 通过并行化聚类流水线中独立操作，该协议的优化潜力有多大？

主要发现

• 所提出的PPODC协议在半诚实威胁模型下实现了所有用户的端到端数据保密性，确保计算过程中无任何用户数据被暴露。
• 通过一种新颖的转换技术，协议成功消除了安全除法操作，与先前方法相比显著降低了计算复杂度。
• 在线计算时间随数据记录数（m）、属性数（l）和聚类数（k）呈线性增长，当m=6,000、l=10、k=8时，耗时36.14分钟。
• 超过99%的总计算时间集中在第二阶段（聚类分配），该阶段可在记录级别实现高度并行化。
• 用户端计算开销可忽略不计——仅需毫秒级时间，使协议在资源受限的终端用户中具备实际可行性。
• 通过使用Spark或Hadoop等云原生框架进行并行化处理，可进一步提升协议性能，增强其在大数据工作负载下的可扩展性。