[论文解读] CaRENets: Compact and Resource-Efficient CNN for Homomorphic Inference on Encrypted Medical Images

Chao Jin, Ahmad Al Badawi+10 more|arXiv (Cornell University)|Jan 29, 2019

Cryptography and Data Security参考文献 31被引用 14

一句话总结

CaRENets 提出了一种紧凑、资源高效的卷积神经网络（CNN）框架，用于在高分辨率加密医学图像上进行全同态加密（FHE）推理。通过引入一种与 CNN 操作紧密集成的新型 FHE 打包方案，其内存效率比标准交错打包方案高出 45 倍，推理速度提升 4–5 倍，从而实现了临床环境中对视网膜图像分析的实用隐私保护深度学习。

ABSTRACT

Convolutional neural networks (CNNs) have enabled significant performance leaps in medical image classification tasks. However, translating neural network models for clinical applications remains challenging due to data privacy issues. Fully Homomorphic Encryption (FHE) has the potential to address this challenge as it enables the use of CNNs on encrypted images. However, current HE technology poses immense computational and memory overheads, particularly for high-resolution images such as those seen in the clinical context. We present CaRENets: Compact and Resource-Efficient CNNs for high performance and resource-efficient inference on high-resolution encrypted images in practical applications. At the core, CaRENets comprises a new FHE compact packing scheme that is tightly integrated with CNN functions. CaRENets offers dual advantages of memory efficiency (due to compact packing of images and CNN activations) and inference speed (due to the reduction in the number of ciphertexts created and the associated mathematical operations) over standard interleaved packing schemes. We apply CaRENets to perform homomorphic abnormality detection with 80-bit security level in two clinical conditions - Retinopathy of Prematurity (ROP) and Diabetic Retinopathy (DR). The ROP dataset comprises 96 x 96 grayscale images, while the DR dataset comprises 256 x 256 RGB images. We demonstrate over 45x improvement in memory efficiency and 4-5x speedup in inference over the interleaved packing schemes. As our approach enables memory-efficient low-latency HE inference without imposing additional communication burden, it has implications for practical and secure deep learning inference in clinical imaging.

研究动机与目标

• 解决在云环境推理过程中患者数据必须保持加密的临床影像中部署隐私保护深度学习的关键挑战。
• 克服现有全同态加密（FHE）方案在应用于高分辨率医学图像（如 256×256 RGB）时带来的计算与内存开销过高的问题。
• 为实际临床应用（如早产儿视网膜病变（ROP）和糖尿病视网膜病变（DR）筛查）提供低延迟、实用的推理能力。
• 设计一种紧凑的打包策略，以减少密文体积和数学运算量，从而提升内存效率与推理速度。
• 证明在不增加通信或硬件负担的前提下，对加密视网膜图像实现安全、高效的 CNN 推理的可行性。

提出的方法

• 提出一种新型紧凑打包方案，通过最小化 FHE 加密数据结构中的冗余，高效地将矩阵和向量映射到更少的密文中。
• 开发 A∗HEMAT，一个自定义的矩阵计算库，支持使用紧凑打包策略对加密矩阵执行同态运算（加法、乘法、转置）。
• 将紧凑打包与优化的矩阵-向量乘法紧密集成到 CNN 层中，以减少密文数量及相关的同态运算。
• 优化 FHE 参数空间（如 log₂n = 14，log₂q = 660），在保证 80 位安全性的前提下平衡安全性与医学图像工作负载的性能。
• 在基于 CPU 的 FHE 堆栈上，使用真实临床数据集（ROP：96×96 灰度图；DR：256×256 RGB 图像）实现并基准测试该方法。
• 在内存使用量、推理时间与安全级别方面，与标准交错打包方案进行性能对比。

实验结果

研究问题

• RQ1 紧凑的 FHE 打包策略是否能显著降低在高分辨率医学图像上进行同态 CNN 推理时的内存与计算开销？
• RQ2 与标准交错打包方案相比，所提出的打包方案在临床影像工作负载中能在多大程度上提升推理速度与内存效率？
• RQ3 在可接受的延迟与资源消耗下，使用 FHE 对 256×256 RGB 视网膜图像进行隐私保护的 CNN 推理是否可行？
• RQ4 在资源受限的 FHE 基础 CNN 中，模型准确率与计算效率之间的权衡如何体现？
• RQ5 所提出的方法是否可推广至其他需要对加密数据实现安全、低延迟推理的医学影像应用？

主要发现

• 与标准交错打包方案相比，CaRENets 在内存效率方面提升超过 45 倍，96×96 图像的内存使用量从 135 GB 降低至 2.94 GB。
• 该方法使推理时间缩短 4–5 倍，ROP 数据集的延迟从 3946.4 秒降低至 994.9 秒。
• 对于更具挑战性的 256×256 RGB IDRiD 数据集，CaRENets 仅使用 17.2 GB 内存成功完成推理，而交错打包方案因内存耗尽（需 >188 GB）而失败。
• 在 IDRiD 数据集上，紧凑打包方案在 17.2 GB 内存下实现了 6004.7 秒的推理时间，证明其可扩展至更高分辨率的临床图像。
• 所有实验中框架均保持 80 位安全级别，确保强密码学保障且不损害性能。
• 结果验证了紧凑打包能够实现实用的、低延迟且内存高效的同态推理，适用于真实世界的筛查应用。