[论文解读] Efficient Privacy Preserving Edge Computing Framework for Image Classification

Omobayode Fagbohungbe, Sheikh Rufsan Reza+2 more|arXiv (Cornell University)|May 10, 2020

Privacy-Preserving Technologies in Data参考文献 29被引用 6

一句话总结

本文提出了一种用于图像分类的隐私保护边缘计算框架，该框架在边缘设备上使用无监督自编码器训练，将原始图像压缩并加密为潜在向量后传输至中心服务器。服务器随后基于这些紧凑且隐私保护的特征训练深度分类器，实现了高分类准确率，同时显著降低了通信开销，且无需依赖联邦学习的梯度共享或加密机制。

ABSTRACT

In order to extract knowledge from the large data collected by edge devices, traditional cloud based approach that requires data upload may not be feasible due to communication bandwidth limitation as well as privacy and security concerns of end users. To address these challenges, a novel privacy preserving edge computing framework is proposed in this paper for image classification. Specifically, autoencoder will be trained unsupervised at each edge device individually, then the obtained latent vectors will be transmitted to the edge server for the training of a classifier. This framework would reduce the communications overhead and protect the data of the end users. Comparing to federated learning, the training of the classifier in the proposed framework does not subject to the constraints of the edge devices, and the autoencoder can be trained independently at each edge device without any server involvement. Furthermore, the privacy of the end users' data is protected by transmitting latent vectors without additional cost of encryption. Experimental results provide insights on the image classification performance vs. various design parameters such as the data compression ratio of the autoencoder and the model complexity.

研究动机与目标

• 解决基于云的图像处理在物联网和5G环境中存在的高通信带宽使用、隐私担忧以及数据传输风险等局限性。
• 克服联邦学习的限制，例如由于边缘设备能力导致的模型复杂度限制以及频繁通信的需求。
• 通过在边缘设备上分布式训练自编码器、在服务器上集中训练分类器，实现高效、安全且可扩展的图像分类。
• 通过仅传输潜在向量（而非原始图像）来保护用户隐私，从而在缺乏解码器的情况下无法重建数据。
• 通过利用自编码器进行特征提取和数据压缩，降低通信成本并提升系统效率。

提出的方法

• 在每个边缘设备上独立使用本地图像数据的无监督学习训练卷积自编码器。
• 仅从每个边缘设备传输学习到的潜在向量（压缩表示）至中心服务器，而非原始图像。
• 将潜在向量用作输入，在边缘服务器上训练深度分类器模型，从而将分类器训练与边缘设备的约束条件解耦。
• 通过仅在边缘设备上存储编码器来保护数据隐私；解码器（用于重建）则安全地保留在服务器端。
• 如需，可在服务器端使用预训练的解码器重建原始图像，且重建误差极小。
• 将自编码器训练与服务器协调解耦，使边缘设备可独立训练，无需实时通信。

实验结果

研究问题

• RQ1 在不同自编码器压缩比率下，所提框架的分类准确率如何变化？
• RQ2 当使用压缩后的潜在向量而非原始图像进行分类时，模型性能下降的程度如何？
• RQ3 在通信效率、模型复杂度和隐私保障方面，该框架与联邦学习相比有何差异？
• RQ4 自编码器生成的潜在向量能否提供足够的判别性特征以实现高精度图像分类？
• RQ5 在所提出的边缘计算流程中，模型复杂度、压缩比率与推理准确率之间的权衡关系如何？

主要发现

• 即使在压缩比率低于16时，所提框架仍能实现高图像分类准确率，且与全分辨率输入相比性能下降可忽略不计。
• 当使用预训练解码器时，从潜在向量重建原始图像的误差极小，证实了自编码器在保留关键图像特征方面的有效性。
• 通过仅传输紧凑的潜在向量而非原始图像数据，该框架显著降低了通信开销，提升了带宽效率。
• 无需额外加密即可增强隐私保护，因为潜在向量对缺乏解码器权重和架构的攻击者而言在语义上是无法理解的。
• 由于仅传输潜在向量，分类器可在服务器端设计得更深更复杂，而不受边缘设备能力的限制。
• 该方法避免了联邦学习中因共享模型更新或梯度而引发的梯度泄露风险，仅传输压缩后的特征。