[论文解读] Secure Linear Aggregation Using Decentralized Threshold Additive Homomorphic Encryption For Federated Learning

Haibo Tian, Fangguo Zhang+2 more|arXiv (Cornell University)|Nov 21, 2021

Cryptography and Data Security参考文献 31被引用 9

一句话总结

本文提出了一种基于去中心化门限加法同态加密（DTAHE）的联邦学习安全线性聚合协议，使参数服务器能够在保护隐私的前提下计算用户输入的加权和。该协议支持完整的线性变换（如全连接层或卷积层），通过Bonawitz等人框架实现容错性，并利用区块链智能合约确保服务器诚实，评估结果表明基于格的DTAHE可最小化服务器端计算量，而基于椭圆曲线的DTAHE则优化了用户端通信效率。

ABSTRACT

Secure linear aggregation is to linearly aggregate private inputs of different users with privacy protection. The server in a federated learning (FL) environment can fulfill any linear computation on private inputs of users through the secure linear aggregation. At present, based on pseudo-random number generator and one-time padding technique, one can efficiently compute the sum of user inputs in FL, but linear calculations of user inputs are not well supported. Based on decentralized threshold additive homomorphic encryption (DTAHE) schemes, this paper provides a secure linear aggregation protocol, which allows the server to multiply the user inputs by any coefficients and to sum them together, so that the server can build a full connected layer or a convolution layer on top of user inputs. The protocol adopts the framework of Bonawitz et al. to provide fault tolerance for user dropping out, and exploits a blockchain smart contract to encourage the server honest. The paper gives a security model, security proofs and a concrete lattice based DTAHE scheme for the protocol. It evaluates the communication and computation costs of known DTAHE construction methods. The evaluation shows that an elliptic curve based DTAHE is friendly to users and the lattice based version leads to a light computation on the server.

研究动机与目标

• 解决现有安全聚合协议仅支持求和计算、不支持联邦学习中一般线性变换的局限性。
• 使参数服务器能够在不暴露原始数据的情况下对用户输入执行任意线性操作（例如加权和）。
• 在训练轮次中用户可能退出的情况下，实现容错能力。
• 通过区块链智能合约强制执行服务器诚实，防止恶意行为。
• 通过新型DTAHE构造优化通信与计算成本，特别是基于格和基于椭圆曲线的方案。

提出的方法

• 该协议使用去中心化门限加法同态加密（DTAHE）方案，使用户能够加密其输入，从而使服务器能够同态地计算线性组合。
• 采用Bonawitz等人提出的容错框架，以处理聚合轮次中用户的退出问题。
• 使用基于区块链的智能合约验证聚合结果的正确性，并激励服务器保持诚实行为。
• 该协议基于一个安全模型，确保在选择明文攻击下的语义安全与隐私性。
• 评估了两种具体的DTAHE构造：一种基于格（优化服务器端效率），另一种基于椭圆曲线ElGamal（优化用户端通信）。
• 通过支持对加密输入进行系数乘法和求和，该协议可实现任意线性操作（如全连接层或卷积层）。

实验结果

研究问题

• RQ1 能否将安全聚合协议从仅支持求和计算扩展到支持联邦学习中的一般线性变换？
• RQ2 当用户可能在训练轮次中退出时，如何在安全线性聚合协议中实现容错？
• RQ3 在真实联邦学习环境中，不同DTAHE构造之间的通信与计算成本权衡如何？
• RQ4 区块链智能合约能否在去中心化的联邦学习环境中有效强制执行服务器诚实？
• RQ5 在实际部署中，基于格的还是基于椭圆曲线的DTAHE构造在效率与隐私之间提供了最佳平衡？

主要发现

• 基于格的DTAHE方案显著降低了服务器端计算成本，当n=35时，ParDec阶段总耗时51.17秒，FinDec阶段耗时1.64秒。
• 基于椭圆曲线的DTAHE（EC-ElGamal）实现了最低的用户端通信开销，当用户数超过20时优于其他方法。
• 当用户数超过26时，所提协议在用户端通信方面优于BGGJK-2和BD-based DTAHE方案。
• 基于EC-ElGamal的DTAHE方案在用户端总计算时间最低（441.25秒），而基于格的方案在服务器端效率最高。
• 该协议成功支持一般线性操作（如构建全连接层或卷积层），将安全聚合从简单求和计算扩展至更广泛应用。
• 安全证明确认该协议在选择明文攻击下具有抗性，并在DTAHE假设下具备语义安全性。