[论文解读] LEP-CNN: A Lightweight Edge Device Assisted Privacy-preserving CNN Inference Solution for IoT

Yifan Tian, Jiawei Yuan+2 more|arXiv (Cornell University)|Jan 14, 2019

Privacy-Preserving Technologies in Data参考文献 16被引用 11

一句话总结

LEP-CNN 提出了一种轻量级、隐私保护的 CNN 推理解决方案，通过在线/离线加密方案将超过 99% 的 CNN 操作卸载到边缘设备，利用 CNN 操作的线性特性预先计算解密密钥，实现在加密数据上的近明文效率，在计算能力相当于树莓派的硬件上实现超过 35 倍的加速，且完整性检测准确率达 99%。

ABSTRACT

Supporting convolutional neural network (CNN) inference on resource-constrained IoT devices in a timely manner has been an outstanding challenge for emerging smart systems. To mitigate the burden on IoT devices, the prevailing solution is to offload the CNN inference task, which is usually composed of billions of operations, to public cloud. However, the "offloading-to-cloud" solution may cause privacy breach while moving sensitive data to cloud. For privacy protection, the research community has resorted to advanced cryptographic primitives and approximation techniques to support CNN inference on encrypted data. Consequently, these attempts cause impractical computational overhead on IoT devices and degrade the performance of CNNs. Moreover, relying on the remote cloud can cause additional network latency and even make the system dysfunction when network connection is off. We proposes an extremely lightweight edge device assisted private CNN inference solution for IoT devices, namely LEP-CNN. The main design of LEP-CNN is based on a novel online/offline encryption scheme. The decryption of LEP-CNN is pre-computed offline via utilizing the linear property of the most time-consuming operations of CNNs. As a result, LEP-CNN allows IoT devices to securely offload over 99% CNN operations, and edge devices to execute CNN inference on encrypted data as efficient as on plaintext. LEP-CNN also provides an integrity check option to help IoT devices detect error results with a successful rate over 99%. Experiments on AlexNet show that LEP-CNN can speed up the CNN inference for more than 35 times for resource constrained IoT devices. A homomorphic encryption based AlexNet using CryptoNets is implemented to compare with LEP-CNN to demonstrate that LEP-CNN has a better performance than homomorphic encryption based privacy preserving neural networks under time-sensitive scenarios.

研究动机与目标

• 解决在资源受限的物联网设备上部署计算密集型 CNN 推理的挑战。
• 克服将敏感数据卸载到公共云所引发的隐私风险。
• 降低现有隐私保护 CNN 解决方案中同态加密带来的计算开销和延迟。
• 通过轻量级完整性检查机制，确保对恶意边缘设备的输出结果具有完整性保障。
• 在不损失准确率的前提下，为时间敏感的物联网应用实现实时、即时的推理。

提出的方法

• 设计一种新颖的在线/离线加密方案，将卷积层的线性操作与输入数据及随机噪声分离。
• 利用卷积层的线性特性，离线预计算解密密钥，从而消除运行时的解密开销。
• 将超过 99% 的 CNN 操作卸载到边缘设备，使其能够高效地在加密数据上执行推理。
• 集成轻量级完整性检查机制，使物联网设备能够以超过 99% 的成功率检测到错误结果。
• 采用近似技术将非线性激活函数转换为与同态加密兼容的线性形式。
• 使用基于 YASHE 的密码系统实现该方案，针对边缘设备的低延迟执行进行了优化。

实验结果

研究问题

• RQ1 轻量级、边缘辅助的加密方案是否能够实现在物联网设备上的高效隐私保护 CNN 推理？
• RQ2 在不损害安全性的前提下，如何最小化加密 CNN 推理中的解密开销？
• RQ3 将操作卸载到边缘设备在多大程度上能够降低时间敏感物联网应用中的延迟和能耗？
• RQ4 在隐私保护的边缘计算模型中，是否能够高效验证 CNN 推理的完整性？
• RQ5 在真实场景中，LEP-CNN 的性能与基于同态加密的解决方案（如 CryptoNets）相比如何？

主要发现

• LEP-CNN 在计算能力相当于树莓派的物联网设备上，实现了超过 35 倍的 CNN 推理加速。
• 在 LEP-CNN 中，本地加密和解密过程处理一个 AlexNet 输入仅耗时 0.3 秒，而基于同态加密的方法则超过 10 小时。
• LEP-CNN 的首个卷积层耗时 0.0103 秒，而相同操作在 CryptoNets 中耗时 625.856 秒。
• 与基于同态加密的解决方案（如 CryptoNets）相比，LEP-CNN 将端到端推理时间减少了超过 99%。
• 完整性检查机制成功以超过 99% 的成功率检测出恶意边缘设备提供的错误结果。
• 与其它基于同态加密的方法不同，LEP-CNN 在不引入近似相关精度损失的情况下，保持了完整的推理精度。