[论文解读] ML with HE: Privacy Preserving Machine Learning Inferences for Genome Studies

Şeyma Selcan Mağara, Ceren Yıldırım+7 more|arXiv (Cornell University)|Oct 21, 2021

Cancer Genomics and Diagnostics被引用 4

一句话总结

本文提出了一种基于全同态加密（HE）的隐私保护机器学习推理方法，用于基因组研究，实现了对加密基因组数据的安全肿瘤类型分类。该方法实现了支持向量机（SVM）和XGBoost模型的HE计算，在保持高准确率的同时，通过优化编码和同态操作，高效处理了基于树的推理中的安全比较。

ABSTRACT

Preserving the privacy and security of big data in the context of cloud computing, while maintaining a certain level of efficiency of its processing remains to be a subject, open for improvement. One of the most popular applications epitomizing said concerns is found to be useful in genome analysis. This work proposes a secure multi-label tumor classification method using homomorphic encryption, whereby two different machine learning algorithms, SVM and XGBoost, are used to classify the encrypted genome data of different tumor types.

研究动机与目标

• 解决在云环境下的机器学习处理过程中保护敏感基因组数据隐私与安全的迫切需求。
• 实现在不受信任的云服务器上对加密基因组数据进行安全推理，而无需暴露底层信息。
• 开发并评估两种强大机器学习模型——SVM与XGBoost——在同态加密环境下的兼容版本，用于肿瘤分类。
• 针对同态加密优化XGBoost推理流程，特别是处理决策树中安全比较操作的效率。
• 在真实世界基因组竞赛环境（iDASH 2020）中，证明基于HE的机器学习推理在实际应用中的可行性与高准确率。

提出的方法

• 使用全同态加密（FHE），特别是CKKS与BFV方案，对加密的基因组特征向量执行计算。
• 通过多项式编码设计安全比较机制，以在加密状态下评估特征值是否满足决策树节点条件（例如，feature_value ≥ threshold）。
• 通过编码树结构与叶节点值，设计XGBoost的同态推理流水线，并通过加密比较同态计算路径概率。
• 将编码后的比较结果用于遍历决策树，并通过同态方式在集成的所有树中对叶节点值求和，计算最终预测得分。
• 使用算法2计算每个内部节点的节点级比较结果（0或1），使用算法3将树级得分聚合为最终类别得分。
• 在客户端解密最终加密得分数组，以确定具有最高得分的预测肿瘤类别。

实验结果

研究问题

• RQ1 XGBoost推理能否在保持高基因组分类准确率的前提下，高效适配同态加密环境？
• RQ2 在加密基因组数据上，HE保护下的XGBoost与HE保护下的SVM在准确率和端到端延迟方面表现如何比较？
• RQ3 在应用同态加密于基于树的模型时，特别是安全比较操作方面，面临哪些实际挑战？
• RQ4 同态加密在多大程度上能够实现真实世界基因组应用中的安全、隐私保护的机器学习推理？
• RQ5 优化的编码技术能否显著降低HE-XGBoost推理中安全比较操作的计算开销？

主要发现

• 在iDASH 2020竞赛中，XGBoost模型的准确率高于SVM模型，证明了HE支持的集成学习在基因组学中的有效性。
• 尽管计算成本更高，XGBoost模型的端到端推理时间仍与其他参赛者保持竞争力，表明其具备实际可行性。
• 所提出的基于多项式编码的安全比较方法显著加速了XGBoost中决策树节点的同态评估。
• 同态SVM模型表现出色，准确率高，验证了HE在基因组学中传统核方法的可行性。
• 结果证实，同态加密可有效应用于复杂、高维的基因组数据，且对模型效用的损失极小。
• 使用SEAL与Palisade库的实现展示了在不同HE框架下的可移植性与高效性，支持更广泛的应用推广。