[论文解读] Scalable and Privacy-Preserving Federated Principal Component Analysis

David Froelicher, Hyunghoon Cho+7 more|arXiv (Cornell University)|Mar 31, 2023

Biometric Identification and Security被引用 4

一句话总结

该论文提出 sf-pca，一种可扩展且保护隐私的联邦主成分分析（PCA）系统，利用多方同态加密和边缘计算技术，在不泄露原始输入或中间结果的前提下，安全地计算分布式的私有数据的主成分。该系统实现了集中式计算级别的准确度，其性能随数据量和参与方数量线性扩展，并且比以往的隐私保护方案快 3 倍至 250 倍。

ABSTRACT

Principal component analysis (PCA) is an essential algorithm for dimensionality reduction in many data science domains. We address the problem of performing a federated PCA on private data distributed among multiple data providers while ensuring data confidentiality. Our solution, SF-PCA, is an end-to-end secure system that preserves the confidentiality of both the original data and all intermediate results in a passive-adversary model with up to all-but-one colluding parties. SF-PCA jointly leverages multiparty homomorphic encryption, interactive protocols, and edge computing to efficiently interleave computations on local cleartext data with operations on collectively encrypted data. SF-PCA obtains results as accurate as non-secure centralized solutions, independently of the data distribution among the parties. It scales linearly or better with the dataset dimensions and with the number of data providers. SF-PCA is more precise than existing approaches that approximate the solution by combining local analysis results, and between 3x and 250x faster than privacy-preserving alternatives based solely on secure multiparty computation or homomorphic encryption. Our work demonstrates the practical applicability of secure and federated PCA on private distributed datasets.

研究动机与目标

• 解决在基因组学和医疗保健等隐私敏感领域中，缺乏安全、准确且可扩展的联邦 PCA 解决方案的问题。
• 克服现有元分析方法在合并本地 PCA 结果时牺牲准确性的局限性。
• 在联邦 PCA 中实现端到端隐私保护，确保数据始终保留在本地，且中间结果对聚合方也保持加密状态。
• 开发一种在数据维度和数据提供方数量增加时仍能高效扩展的系统，同时在被动攻击者模型下保持安全性。
• 为联邦分析中的高复杂度线性代数操作提供一种实用且可部署的解决方案，采用优化的密码学技术。

提出的方法

• 利用多方同态加密（MHE）在不进行解密的情况下，跨多个数据提供方（DPs）安全地处理加密数据。
• 集成边缘计算，将本地明文计算与集体加密操作交错进行，从而减少通信开销和延迟。
• 采用混合密码学方法，在不同操作间切换使用 MHE 和秘密共享——MHE 用于大规模矩阵运算，秘密共享用于小输入上的非多项式函数运算。
• 以随机化主成分分析（RPCA）算法为核心计算流程，确保准确度与集中式 PCA 相当。
• 通过 MHE 优化的例程，对关键线性代数操作（如矩阵乘法、分解和正交化）进行优化。
• 通过 MHE 秘密密钥的门限秘密共享实现容错机制，即使部分 DPs 不可用，计算仍可继续进行。

Figure 1: Randomized PCA Workflow. Matrix dimensions are shown with the box sizes and are indicated on the left and top of the corresponding box.

实验结果

研究问题

• RQ1 联邦 PCA 系统是否能在保护原始数据和中间结果端到端隐私的前提下，实现与集中式 PCA 相当的准确度？
• RQ2 如何优化安全多方计算，使其在 PCA 中随数据提供方数量和输入维度的增加而高效扩展？
• RQ3 混合密码学技术（MHE 与秘密共享）能否有效组合，以提升联邦线性代数中混合工作负载的性能？
• RQ4 与现有隐私保护 PCA 解决方案相比，所提系统在速度、准确度和通信开销方面有多大程度的性能优势？
• RQ5 在涉及敏感数据（如基因组学）的实际应用中，部署一种安全、可扩展且准确的联邦 PCA 系统是否切实可行？

主要发现

• 无论数据在数据提供方之间如何分布，sf-pca 的 PCA 结果准确度均与非安全的集中式解决方案相当。
• 该系统在数据提供方数量和输入数据维度上均表现出线性或更优的可扩展性。
• 基于仅使用安全多方计算或同态加密的现有隐私保护方案，sf-pca 的运行速度快 3 倍至 250 倍。
• 在两方设置下，随着数据规模增加，sf-pca 的运行时间几乎保持恒定，而基于 SMC 的方案则变慢了 1.9 倍。
• 在包含 2,504 名个体、1,773 个特征的基因组数据集上，sf-pca 准确恢复了数据的真实低维结构，与集中式 PCA 结果一致，而元分析方法则扭曲了数据分布。
• 每个数据提供方仅能查看其自身投影输出的部分，确保在安全模型下仍保持机密性，即使与聚合方共享结果亦如此。

Figure 2: sf-pca System Model and Functionality. Each DP i holds a $n_{i}\times m$ submatrix as input and collaboratively executes sf-pca to obtain encrypted PCs and/or the projection of its local data.