[论文解读] Mitigating Leakage in Federated Learning with Trusted Hardware

Javad Ghareh Chamani, Dimitrios Papadopoulos|arXiv (Cornell University)|Nov 10, 2020

Privacy-Preserving Technologies in Data参考文献 27被引用 7

一句话总结

本文提出两种基于可信执行环境（TEE）的SecureBoost安全变体，以缓解联邦学习中的信息泄露问题，即尽管使用了同态加密，特征值的部分排序信息仍会泄露给主动方。所提出的N-TEE和1-TEE协议消除了此类泄露，在计算速度上比SecureBoost快1.2–5.4倍，通信量减少5–49倍，同时在温和假设下仍能实现高精度的数据重建攻击，揭示了隐私保护系统中细微泄露的潜在风险。

ABSTRACT

In federated learning, multiple parties collaborate in order to train a global model over their respective datasets. Even though cryptographic primitives (e.g., homomorphic encryption) can help achieve data privacy in this setting, some partial information may still be leaked across parties if this is done non-judiciously. In this work, we study the federated learning framework of SecureBoost [Cheng et al., FL@IJCAI'19] as a specific such example, demonstrate a leakage-abuse attack based on its leakage profile, and experimentally evaluate the effectiveness of our attack. We then propose two secure versions relying on trusted execution environments. We implement and benchmark our protocols to demonstrate that they are 1.2-5.4X faster in computation and need 5-49X less communication than SecureBoost.

研究动机与目标

• 识别并利用SecureBoost（一种使用同态加密的隐私保护联邦学习系统）中因分裂查找过程中使用同态加密而产生的细微信息泄露。
• 证明该泄露可被用于实施实际的泄露滥用攻击，从而以高精度重建敏感数据值。
• 设计并实现两种基于TEE的安全协议（N-TEE和1-TEE），在消除泄露的同时提升性能。
• 使用真实金融数据，评估所提协议与SecureBoost相比的性能与安全性。

提出的方法

• 攻击利用了在SecureBoost的分裂查找过程中，通过Paillier同态加密揭示的被动方数据样本在特征上的部分排序信息。
• 泄露滥用攻击利用推断出的部分顺序和近似数据分布（如10%的增量）为样本分配数值，其精度高于随机猜测。
• N-TEE假设所有参与方可用TEE，通过在飞地内使用高效对称加密和安全计算，避免Paillier的开销。
• 1-TEE通过仅在主动方使用TEE，降低了信任假设，利用对称加密和安全密钥交换保护被动方数据。
• 两种协议均使用Intel SGX飞地确保执行隔离、密封存储及远程认证，以保障完整性和机密性。
• 协议已在FATE框架中实现并集成，将Paillier替换为AES和一次性密码，以提升效率。

实验结果

研究问题

• RQ1 能否利用SecureBoost中因分裂查找过程使用同态加密而产生的部分信息泄露，来重建敏感数据值？
• RQ2 当攻击者仅掌握数据分布的近似信息（如10%的增量）时，泄露滥用攻击的准确率如何？
• RQ3 可信执行环境（TEEs）能否用于消除此类泄露，同时在性能上优于现有密码学方法？
• RQ4 基于TEE的协议与SecureBoost相比，其性能特征（计算时间和通信量）有何差异？
• RQ5 基于TEE的联邦学习协议在安全性、性能与信任假设之间存在何种权衡？

主要发现

• 在假设数据分布近似（如10%增量）的前提下，泄露滥用攻击在年龄和薪资值的猜测中分别实现了超过99%的准确率，误差范围为±5年和±2000美元。
• 仅使用最小-最大值边界的攻击相比随机猜测最高可提升35%的准确率，但若无额外分布知识则无法实现高精度。
• N-TEE和1-TEE完全消除了分裂查找过程中的所有信息泄露，防止了任何敏感数据值的重建。
• N-TEE的计算速度比SecureBoost快1.2–5.4倍，通信量减少32–49倍，处理10^5个样本时耗时314秒、通信量9MB。
• 1-TEE的计算速度比SecureBoost快1.2–5.4倍，通信量减少5–10倍，处理10^5个样本时耗时323秒、通信量33MB。
• 性能提升源于在基于TEE的协议中，用高效的AES和一次性密码替代了Paillier同态加密。