[论文解读] Practical Encrypted Computing for IoT Clients

McKenzie van der Hagen, Brandon Lucia|arXiv (Cornell University)|Mar 11, 2021

Cryptography and Data Security参考文献 54被引用 4

一句话总结

CHOCO 提出了一种面向物联网设备的客户端优化同态加密系统，通过旋转冗余和硬件加速，显著降低了通信开销和客户端计算成本。借助定制的 ASIC 加速器 CHOCO-TACO，客户端的加密/解密速度提升了 1094 倍，能效提高了 648 倍，实现了比本地未加密计算节能 37% 的加密 DNN 推理。

ABSTRACT

Privacy and energy are primary concerns for sensor devices that offload compute to a potentially untrusted edge server or cloud. Homomorphic Encryption (HE) enables offload processing of encrypted data. HE offload processing retains data privacy, but is limited by the need for frequent communication between the client device and the offload server. Existing client-aided encrypted computing systems are optimized for performance on the offload server, failing to sufficiently address client costs, and precluding HE offload for low-resource (e.g., IoT) devices. We introduce Client-aided HE for Opaque Compute Offloading (CHOCO), a client-optimized system for encrypted offload processing. CHOCO introduces rotational redundancy, an algorithmic optimization to minimize computing and communication costs. We design Client-Aided HE for Opaque Compute Offloading Through Accelerated Cryptographic Operations (CHOCO-TACO), a comprehensive architectural accelerator for client-side cryptographic operations that eliminates most of their time and energy costs. Our evaluation shows that CHOCO makes client-aided HE offloading feasible for resource-constrained clients. Compared to existing encrypted computing solutions, CHOCO reduces communication cost by up to 2948x. With hardware support, client-side encryption/decryption is faster by 1094x and uses 648x less energy. In our end-to-end implementation of a large-scale DNN (VGG16), CHOCO uses 37% less energy than local (unencrypted) computation.

研究动机与目标

• 解决现有客户端辅助同态加密（HE）系统中客户端计算与通信成本过高的问题，该问题阻碍了其在资源受限的物联网设备上的部署。
• 突破客户端重复加密与解密带来的性能瓶颈，该过程主导了时间和能量开销。
• 设计一种系统，在无需模型隐私保护的前提下保护客户端数据隐私，从而实现对复杂计算（如 DNN 推理）的高效卸载。
• 开发专用的低功耗硬件加速器，消除客户端加密操作带来的性能损耗。
• 通过端到端系统评估，证明加密卸载在能效和性能方面可优于本地推理。

提出的方法

• 提出旋转冗余（rotational redundancy），一种加密置换算法，通过支持更小、更高效的密文，减少客户端辅助 HE 中的密文大小和通信开销。
• 设计 CHOCO-TACO，一款定制 ASIC 加速器，将所有核心 HE 加密原语（如 NTT、多项式乘法）硬件化，以最小化延迟和能耗。
• 通过将线性操作（如卷积）卸载至服务器使用 HE 处理，同时在客户端以明文形式执行非线性操作（如 ReLU），优化客户端-服务器交互。
• 采用混合架构，仅由客户端处理非线性操作，避免使用 MPC，从而消除其高昂的客户端成本。
• 实现端到端全栈系统，集成软件优化与硬件加速，针对支持蓝牙通信的低功耗物联网平台进行优化。
• 使用 VGG16 推理对系统进行端到端评估，对比软件仅实现的 HE、基于 MPC 的系统以及本地 TFLite 推理，在性能、能耗和通信开销方面的表现。

实验结果

研究问题

• RQ1 能否通过降低客户端通信与计算成本，使客户端辅助 HE 在资源受限的物联网设备上变得实用？
• RQ2 旋转冗余在减少客户端辅助 HE 中密文大小与通信开销方面效果如何？
• RQ3 HE 原语的硬件加速在多大程度上可降低客户端加密与解密的时间与能耗？
• RQ4 通过 CHOCO 实现的加密卸载是否能在能效和性能方面超越本地推理？
• RQ5 是否可行实现在无需模型隐私保护或 MPC 开销的前提下，于物联网客户端实现隐私保护的 DNN 推理？

主要发现

• CHOCO 相较于现有 HE-MPC 协议，将客户端通信成本降低了高达 2948 倍，主要得益于旋转冗余带来的更小密文。
• 借助 CHOCO-TACO 硬件加速，客户端加密/解密速度比纯软件 HE 系统快 1094 倍，能耗降低 648 倍。
• 在端到端的 VGG16 推理中，CHOCO 比使用 TFLite 的本地未加密推理节能 37%，展现出显著的能效优势。
• CHOCO-TACO 在单次加密操作上实现 417 倍加速与 603 倍能耗降低，使客户端 DNN 推理的平均速度提升达 121 倍。
• 该系统使加密卸载在性能与能效方面可与本地推理相媲美，即使在低功耗物联网设备上亦成立。
• CHOCO-TACO 对所有 HE 原语的全面硬件支持至关重要，仅加速 NTT 无法克服客户端瓶颈。